Skip to content

关于 Unicode 和 UTF-8 的理解

  • Unicode 可以理解为一套字符集,这个集合里面包含了英中日文、表情等等,比如第 0x0041 个表示 'A',比如第 0x2EF0 个表示 '龙'。具体的集合可以看 https://unicode-table.com/en/
  • UTF-8 可以理解为是 Unicode 的编码方式,即 'A' 怎么用二进制表示,'龙' 怎么用二进制表示。

当然你说,为什么不就用 0x0041 表示 'A',0x2EF0 表示 '龙'呢?目的还是为了减少平均长度,因为 Unicode 集合个数超过两个字节,所以如果表示频率很多的英文,那也要起码三个字节,所以太亏了,所以要按照别的方式来进行编码。

Python 如何对 Unicode 进行输出,方式如下。

print(''.encode("unicode_escape"))
print(b'\u2600'.decode("unicode_escape"))

1. urxvt 指定 Unifont,但是好像不能输出其中的一些字符
2. urxvt 无法指定 siji,导致无线网信号这种 Unicode 中自定义的符号显示不出或显示错误。
3. gnome-terminal 显示完美。

下面是知乎的一个问题和回答: Unicode 和 UTF-8 有什么区别?

作者:uuspider
链接:https://www.zhihu.com/question/23374078/answer/65352538
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

举一个例子:It's 知乎日报
你看到的unicode字符集是这样的编码表:

I 0049
t 0074
' 0027
s 0073
  0020
知 77e5
乎 4e4e
日 65e5
报 62a5

每一个字符对应一个十六进制数字。
计算机只懂二进制,因此,严格按照unicode的方式(UCS-2),应该这样存储:
I 00000000 01001001
t 00000000 01110100
' 00000000 00100111
s 00000000 01110011
  00000000 00100000
知 01110111 11100101
乎 01001110 01001110
日 01100101 11100101
报 01100010 10100101

这个字符串总共占用了18个字节,但是对比中英文的二进制码,可以发现,英文前9位都是0!浪费啊,浪费硬盘,浪费流量。
怎么办?UTF。UTF-8是这样做的:
1. 单字节的字符,字节的第一位设为0,对于英语文本,UTF-8码只占用一个字节,和ASCII码完全相同;
2. n个字节的字符(n>1),第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,这n个字节的其余空位填充该字符unicode码,高位用0补足。
这样就形成了如下的UTF-8标记位:
0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
... ...
于是,”It's 知乎日报“就变成了:
I 01001001
t 01110100
' 00100111
s 01110011
  00100000
知 11100111 10011111 10100101
乎 11100100 10111001 10001110
日 11100110 10010111 10100101
报 11100110 10001010 10100101

和上边的方案对比一下,英文短了,每个中文字符却多用了一个字节。但是整个字符串只用了17个字节,比上边的18个短了一点点。

Comments