Python模块之codecs: 自然语言编码转换
当python要做编码转换的时候，会借助于内部的编码，转换过程是这样的：
原有编码 -> 内部编码 -> 目的编码python的内部是使用unicode来处理的，但是unicode的使用需要考虑的是它的编码格式有两种，一是UCS-2，它一共有65536个码位，另一种是UCS-4，它有2147483648g个码位。对于这两种格式，python都是支持的，这个是在编译时通过--enable-unicode=ucs2或--enable-unicode=ucs4来指定的。那么我们自己默认安装的python有的什么编码怎么来确定呢？有一个办法，就是通过sys.maxunicode的值来判断：
import sys
print sys.maxunicode如果输出的值为65535,那么就是UCS-2，如果输出是1114111就是UCS-4编码
使用codecs读取中文csv文件：
#!/usr/bin/env python
#-*- coding:utf-8 -*-
import codecs
import sys
print sys.getdefaultencoding()
myfile = codecs.open("test.csv","r","gbk") #文档是ANSI格式的时候使用gbk，否则直接使用utf-8
line = myfile.readline()
while line:
print line,
line = myfile.readline()
myfile.close()
Tag标签:「codecs 自然语言 编码 转换」更新时间:「2021-11-03 09:44:14」阅读次数:「500」