Python字符编码转换

编码回顾

在备编码相关的课件时&＃xff0c;在知乎上看到一段关于Python编码的回答

这哥们的这段话说的太对了&＃xff0c;搞Python不把编码彻底搞明白&＃xff0c;总有一天它会猝不及防坑你一把。
不过感觉这哥们的答案并没把编码问题写明白&＃xff0c;所以只好亲自动笔了。
折腾编码问题&＃xff0c;有很多次&＃xff0c;我以为自已明白了&＃xff0c;最终发现&＃xff0c;那只不过是自圆其说而已&＃xff0c;这一次&＃xff0c;终于100%确定&＃xff0c;动笔即不再改&＃xff01;
看这篇文章前&＃xff0c;你应该已经知道了为什么有编码&＃xff0c;以及编码的种类情况

• ASCII 占1个字节&＃xff0c;只支持英文
• GB2312 占2个字节&＃xff0c;支持6700&＃43;汉字
• GBK GB2312的升级版&＃xff0c;支持21000&＃43;汉字
• Shift-JIS 日本字符
• ks_c_5601-1987 韩国编码
• TIS-620 泰国编码

由于每个国家都有自己的字符&＃xff0c;所以其对应关系也涵盖了自己国家的字符&＃xff0c;但是以上编码都存在局限性&＃xff0c;即&＃xff1a;仅涵盖本国字符&＃xff0c;无其他国家字符的对应关系。应运而生出现了万国码&＃xff0c;他涵盖了全球所有的文字和二进制的对应关系。

• Unicode 2-4字节 已经收录136690个字符&＃xff0c;并还在一直不断扩张中...

Unicode 起到了2个作用&＃xff1a;

1. 直接支持全球所有语言&＃xff0c;每个国家都可以不用再使用自己之前的旧编码了&＃xff0c;用unicode就可以了。(就跟英语是全球统一语言一样)
2. unicode包含了跟全球所有国家编码的映射关系&＃xff0c;为什么呢&＃xff1f;后面再讲

Unicode解决了字符和二进制的对应关系&＃xff0c;但是使用unicode表示一个字符&＃xff0c;太浪费空间。例如&＃xff1a;利用unicode表示“Python”需要12个字节才能表示&＃xff0c;比原来ASCII表示增加了1倍。
由于计算机的内存比较大&＃xff0c;并且字符串在内容中表示时也不会特别大&＃xff0c;所以内容可以使用unicode来处理&＃xff0c;但是存储和网络传输时一般数据都会非常多&＃xff0c;那么增加1倍将是无法容忍的&＃xff01;&＃xff01;&＃xff01;
为了解决存储和网络传输的问题&＃xff0c;出现了Unicode Transformation Format&＃xff0c;学术名UTF&＃xff0c;即&＃xff1a;对unicode中的进行转换&＃xff0c;以便于在存储和网络传输时可以节省空间!

• UTF-8&＃xff1a; 使用1、2、3、4个字节表示所有字符&＃xff1b;优先使用1个字符、无法满足则使增加一个字节&＃xff0c;最多4个字节。英文占1个字节、欧洲语系占2个、东亚占3个&＃xff0c;其它及特殊字符占4个。
• UTF-16&＃xff1a; 使用2、4个字节表示所有字符&＃xff1b;优先使用2个字节&＃xff0c;否则使用4个字节表示。
• UTF-32&＃xff1a; 使用4个字节表示所有字符。

总结&＃xff1a;UTF 是为unicode编码 设计 的一种 在存储 和传输时节省空间的编码方案。

字符在硬盘上的存储

无论以什么编码在内存里显示字符&＃xff0c;存到硬盘上都是2进制。

ascii编码(美国)&＃xff1a;l 0b1101100o 0b1101111v 0b1110110e 0b1100101
GBK编码(中国)&＃xff1a;老 0b11000000 0b11001111男 0b11000100 0b11010000孩 0b10111010 0b10100010Shift_JIS编码(日本)&＃xff1a;私 0b10001110 0b10000100は 0b10000010 0b11001101ks_c_5601-1987编码(韩国)&＃xff1a;나 0b10110011 0b10101010는 0b10110100 0b11000010TIS-620编码(泰国)&＃xff1a;ฉัน 0b10101001 0b11010001 0b10111001
...


要注意的是&＃xff0c;存到硬盘上时是以何种编码存的&＃xff0c;再从硬盘上读出来时&＃xff0c;就必须以何种编码读&＃xff0c;要不然就乱了。。


编码的转换

虽然国际语言是英语 &＃xff0c;但大家在自己的国家依然说自已的语言&＃xff0c;不过出了国&＃xff0c; 你就得会英语 编码也一样&＃xff0c;虽然有了unicode and utf-8 &＃xff0c;但是由于历史问题&＃xff0c;各个国家依然在大量使用自己的编码&＃xff0c;比如中国的windows,默认编码依然是gbk,而不是utf-8。
基于此&＃xff0c;如果中国的软件出口到美国&＃xff0c;在美国人的电脑上就会显示乱码&＃xff0c;因为他们没有gbk编码。
若想让中国的软件可以正常的在 美国人的电脑上显示&＃xff0c;只有以下2条路可走&＃xff1a;

1. 让美国人的电脑上都装上gbk编码
2. 把你的软件编码以utf-8编码

第1种方法几乎不可能实现&＃xff0c;第2种方法比较简单。 但是也只能是针对新开发的软件。 如果你之前开发的软件就是以gbk编码的&＃xff0c;上百万行代码可能已经写出去了&＃xff0c;重新编码成utf-8格式也会费很大力气。

so , 针对已经用gbk开发完毕的项目&＃xff0c;以上2种方案都不能轻松的让项目在美国人电脑上正常显示&＃xff0c;难道没有别的办法了么&＃xff1f;

有&＃xff0c; 还记得我们讲unicode其中一个功能是其包含了跟全球所有国家编码的映射关系&＃xff0c;意思就是&＃xff0c;你写的是gbk的“路飞学城”,但是unicode能自动知道它在unicode中的“路飞学城”的编码是什么&＃xff0c;如果这样的话&＃xff0c;那是不是意味着&＃xff0c;无论你以什么编码存储的数据&＃xff0c;只要你的软件在把数据从硬盘读到内存里&＃xff0c;转成unicode来显示&＃xff0c;就可以了。由于所有的系统、编程语言都默认支持unicode&＃xff0c;那你的gbk软件放到美国电脑上&＃xff0c;加载到内存里&＃xff0c;变成了unicode,中文就可以正常展示啦。

这个表你自己也可以下载下来
unicode与gbk的映射表 http://www.unicode.org/charts/

Python3的执行过程

在看实际代码的例子前&＃xff0c;我们来聊聊&＃xff0c;python3 执行代码的过程

1. 解释器找到代码文件&＃xff0c;把代码字符串按文件头定义的编码加载到内存&＃xff0c;转成unicode
2. 把代码字符串按照语法规则进行解释
3. 所有的变量字符都会以unicode编码声明

编码转换过程

实际代码演示&＃xff0c;在py3上 把你的代码以utf-8编写&＃xff0c; 保存&＃xff0c;然后在windows上执行。

s &＃61; &＃39;路飞学城&＃39;
print(s)


so ,一切都很美好&＃xff0c;到这里&＃xff0c;我们关于编码的学习按说就可以结束了。
但是&＃xff0c;如生活一样&＃xff0c;美好的表面下&＃xff0c;总是隐藏着不尽如人意&＃xff0c;上面的utf-8编码之所以能在windows gbk的终端下显示正常&＃xff0c;是因为到了内存里python解释器把utf-8转成了unicode , 但是这只是python3, 并不是所有的编程语言在内存里默认编码都是unicode,比如 万恶的python2 就不是&＃xff0c; 它的默认编码是ASCII&＃xff0c;想写中文&＃xff0c;就必须声明文件头的coding为gbk or utf-8, 声明之后&＃xff0c;python2解释器仅以文件头声明的编码去解释你的代码&＃xff0c;加载到内存后&＃xff0c;并不会主动帮你转为unicode,也就是说&＃xff0c;你的文件编码是utf-8,加载到内存里&＃xff0c;你的变量字符串就也是utf-8, 这意味着什么你知道么&＃xff1f;。。。意味着&＃xff0c;你以utf-8编码的文件&＃xff0c;在windows是乱码。

乱是正常的&＃xff0c;不乱才不正常&＃xff0c;因为只有2种情况 &＃xff0c;你的windows上显示才不会乱。

1. 字符串以GBK格式显示
2. 字符串是unicode编码

既然Python2并不会自动的把文件编码转为unicode存在内存里&＃xff0c; 那就只能使出最后一招了&＃xff0c;你自己人肉转。Py3 自动把文件编码转为unicode必定是调用了什么方法&＃xff0c;这个方法就是&＃xff0c;decode(解码) 和encode(编码)

UTF-8 --> decode 解码 --> Unicode
Unicode --> encode 编码 --> GBK / UTF-8 ..


decode示例

encode 示例

记住下图规则

如何验证编码转对了呢&＃xff1f;

1. 查看数据类型&＃xff0c;python 2 里有专门的unicode 类型
2. 查看unicode编码映射表

unicode字符是有专门的unicode类型来判断的&＃xff0c;但是utf-8,gbk编码的字符都是str,你如果分辨出来的当前的字符串数据是何种编码的呢&＃xff1f; 有人说可以通过字节长度判断&＃xff0c;因为utf-8一个中文占3字节&＃xff0c;gbk一个占2字节。

靠上面字节个数&＃xff0c;虽然也能大体判断是什么类型&＃xff0c;但总觉得不是很专业。
怎么才能精确的验证一个字符的编码呢&＃xff0c;就是拿这些16进制的数跟编码表里去匹配。
“路飞学城”的unicode编码的映射位置是 u&＃39;\u8def\u98de\u5b66\u57ce&＃39; &＃xff0c;‘\u8def’ 就是‘路’&＃xff0c;到表里搜一下。
“路飞学城”对应的GBK编码是&＃39;\xc2\xb7\xb7\xc9\xd1\xa7\xb3\xc7&＃39; &＃xff0c;2个字节一个中文&＃xff0c;"路" 的二进制 "\xc2\xb7"是4个16进制&＃xff0c;正好2字节&＃xff0c;拿它到unicode映射表里对一下&＃xff0c; 发现是G0-4237&＃xff0c;并不是\xc2\xb7呀。。。擦。演砸了吧。。

再查下“飞” \u98de &＃xff0c;对应的是G0-3749&＃xff0c; 跟\xb7\xc9也对不上。

虽然对不上&＃xff0c; 但好\xc2\xb7 和G0-4237中的第2位的2和第4位的7对上了&＃xff0c;“飞”字也是一样&＃xff0c;莫非巧合&＃xff1f;
把他们都转成2进制显示试试

路
C 2
8 4 2 1 8 4 2 1
1 1 0 0 0 0 1 0B 7
8 4 2 1 8 4 2 1
1 0 1 1 0 1 1 1飞
B 7
8 4 2 1 8 4 2 1
1 0 1 1 0 1 1 1C 9
8 4 2 1 8 4 2 1
1 1 0 0 1 0 0 1


这个“路”还是跟G0-4237对不上呀&＃xff0c;没错&＃xff0c; 但如果你把路\xc2\xb7的每个二进制字节的左边第一个bit变成0试试呢&＃xff0c; 我擦&＃xff0c;加起来就真的是4237了呀。。难道又是巧合&＃xff1f;&＃xff1f;&＃xff1f;

必然不是&＃xff0c;是因为&＃xff0c;GBK的编码表示形式决定的。。因为GBK编码在设计初期就考虑到了要兼容ASCII,即如果是英文&＃xff0c;就用一个字节表示&＃xff0c;2个字节就是中文&＃xff0c;但如何区别连在一起的2个字节是代表2个英文字母&＃xff0c;还是一个中文汉字呢&＃xff1f; 中国人如此聪明&＃xff0c;决定&＃xff0c;2个字节连在一起&＃xff0c;如果每个字节的第1位(也就是相当于128的那个2进制位)如果是1&＃xff0c;就代表这是个中文&＃xff0c;这个首位是128的字节被称为高字节。 也就是2个高字节连在一起&＃xff0c;必然就是一个中文。 你怎么如此笃定&＃xff1f;因为0-127已经表示了英文的绝大部分字符&＃xff0c;128-255是ASCII的扩展表&＃xff0c;表示的都是极特殊的字符&＃xff0c;一般没什么用。所以中国人就直接拿来用了。

问&＃xff1a;那为什么上面 "\xc2\xb7"的2进制要把128所在的位去掉才能与unicode编码表里的G0-4237匹配上呢&＃xff1f;

这只能说是unicode在映射表的表达上直接忽略了高字节&＃xff0c;但真正映射的时候 &＃xff0c;肯定还是需要用高字节的哈。

Python bytes类型

在python 2 上写字符串

>>> s &＃61; "路飞"
>>> print s
路飞
>>> s
&＃39;\xe8\xb7\xaf\xe9\xa3\x9e&＃39;


虽说打印的是路飞&＃xff0c;但直接调用变量s&＃xff0c;看到的却是一个个的16进制表示的二进制字节&＃xff0c;我们怎么称呼这样的数据呢&＃xff1f;直接叫二进制么&＃xff1f;也可以&＃xff0c; 但相比于010101&＃xff0c;这个数据串在表示形式上又把2进制转成了16进制来表示&＃xff0c;这是为什么呢&＃xff1f; 哈&＃xff0c;为的就是让人们看起来更可读。我们称之为bytes类型&＃xff0c;即字节类型&＃xff0c; 它把8个二进制一组称为一个byte,用16进制来表示。 　
说这个有什么意思呢&＃xff1f;
想告诉你一个事实&＃xff0c; 就是&＃xff0c;python2的字符串其实更应该称为字节串。 通过存储方式就能看出来&＃xff0c; 但python2里还有一个类型是bytes呀&＃xff0c;难道又叫bytes又叫字符串&＃xff1f; 嗯 &＃xff0c;是的&＃xff0c;在python2里&＃xff0c;bytes &＃61;&＃61; str &＃xff0c; 其实就是一回事。
除此之外呢&＃xff0c; python2里还有个单独的类型是unicode , 把字符串解码后&＃xff0c;就会变成unicode

>>> s
&＃39;\xe8\xb7\xaf\xe9\xa3\x9e&＃39; #utf-8
>>> s.decode(&＃39;utf-8&＃39;)
u&＃39;\u8def\u98de&＃39; #unicode 在unicode编码表里对应的位置
>>> print(s.decode(&＃39;utf-8&＃39;))
路飞 #unicode 格式的字符


由于Python创始人在开发初期认知的局限性&＃xff0c;其并未预料到python能发展成一个全球流行的语言&＃xff0c;导致其开发初期并没有把支持全球各国语言当做重要的事情来做&＃xff0c;所以就轻佻的把ASCII当做了默认编码。 当后来大家对支持汉字、日文、法语等语言的呼声越来越高时&＃xff0c;Python于是准备引入unicode,但若直接把默认编码改成unicode的话是不现实的&＃xff0c; 因为很多软件就是基于之前的默认编码ASCII开发的&＃xff0c;编码一换&＃xff0c;那些软件的编码就都乱了。所以Python 2 就直接 搞了一个新的字符类型&＃xff0c;就叫unicode类型&＃xff0c;比如你想让你的中文在全球所有电脑上正常显示&＃xff0c;在内存里就得把字符串存成unicode类型。

>>> s &＃61; "路飞"
>>> s
&＃39;\xe8\xb7\xaf\xe9\xa3\x9e&＃39;
>>> s2 &＃61; s.decode("utf-8")
>>> s2
u&＃39;\u8def\u98de&＃39;
>>> type(s2)



时间来到2008年&＃xff0c;python发展已近20年&＃xff0c;创始人龟叔越来越觉得python里的好多东西已发展的不像他的初衷那样&＃xff0c;开始变得臃肿、不简洁、且有些设计让人摸不到头脑&＃xff0c;比如unicode 与str类型&＃xff0c;str 与bytes类型的关系&＃xff0c;这给很多python程序员造成了困扰。
龟叔再也忍不了&＃xff0c;像之前一样的修修补补已不能让Python变的更好&＃xff0c;于是来了个大变革&＃xff0c;Python3横空出世&＃xff0c;不兼容python2,python3比python2做了非常多的改进&＃xff0c;其中一个就是终于把字符串变成了unicode,文件默认编码变成了utf-8,这意味着&＃xff0c;只要用python3,无论你的程序是以哪种编码开发的&＃xff0c;都可以在全球各国电脑上正常显示&＃xff0c;真是太棒啦&＃xff01;
PY3 除了把字符串的编码改成了unicode, 还把str 和bytes 做了明确区分&＃xff0c; str 就是unicode格式的字符&＃xff0c; bytes就是单纯二进制啦。

最后一个问题&＃xff0c;为什么在py3里&＃xff0c;把unicode编码后&＃xff0c;字符串就变成了bytes格式&＃xff1f; 你直接给我直接打印成gbk的字符展示不好么&＃xff1f;我想其实py3的设计真是煞费苦心&＃xff0c;就是想通过这样的方式明确的告诉你&＃xff0c;想在py3里看字符&＃xff0c;必须得是unicode编码&＃xff0c;其它编码一律按bytes格式展示。
好吧&＃xff0c;就说这么多吧。
最后再提示一下&＃xff0c;Python只要出现各种编码问题&＃xff0c;无非是哪里的编码设置出错了
常见编码错误的原因有&＃xff1a;

• • Python解释器的默认编码
  • Python源文件文件编码
  • Terminal使用的编码
  • 操作系统的语言设置 掌握了编码之前的关系后&＃xff0c;挨个排错就好啦