如何使用python批量修改文本文件編碼格式
使用python批量修改文本文件編碼格式
把文本文件的編碼格式進行批量幻化,比如ascii, gb2312, utf8等,相互轉化,字符集的大小來看,utf8>gb2312>ascii,因此最好把gb2312轉為utf8,否則容易出現亂碼。
gb2312和utf-8的主要區別:
關於字庫規模: UTF-8 > gb2312(utf8字全而gb2312隻有漢字)
關於保存大小: UTF-8> gb2312 (utf8更臃腫、加載更慢,gb2312更小巧,加載更快)
關於適用范圍:gb2312主要在中國大陸地區使用,是一個本地化的字符集,UTF-8包含全世界所有國傢需要用到的字符,是國際編碼,通用性強。UTF-8編碼的文字可以在各國支持UTF8字符集的瀏覽器上顯示。
import sys import chardet import codecs def get_encoding_type(fileName): '''print the encoding format of a txt file ''' with open(fileName, 'rb') as f: data = f.read() encoding_type = chardet.detect(data) #print(encoding_type) return encoding_type # such as {'encoding': 'GB2312', 'confidence': 0.99, 'language': 'Chinese'} def convert_encoding_type(filename_in, filename_out, encode_in="gb2312", encode_out="utf-8"): '''convert encoding format of txt file ''' #filename_in = 'flash.c' #filename_out = 'flash_gb2312.c' #encode_in = 'utf-8' # 輸入文件的編碼類型 #encode_out = 'gb2312'# 輸出文件的編碼類型 with codecs.open(filename=filename_in, mode='r', encoding=encode_in) as fi: data = fi.read() with open(filename_out, mode='w', encoding=encode_out) as fo: fo.write(data) fo.close() # with open(filename_out, 'rb') as f: # data = f.read() # print(chardet.detect(data)) if __name__=="__main__": # fileName = argv[1] # get_encoding_type(fileName) # convert_encoding_type(fileName, fileName) filename_of_files = sys.argv[1] #the file contain full file path at each line with open(filename_of_files, 'rb') as f: lines = f.readlines() for line in lines: fileName = line[:-1] encoding_type = get_encoding_type(fileName) if encoding_type['encoding']=='GB2312': print(encoding_type) convert_encoding_type(fileName, fileName) print(fileName)
補充:python實現文件批量轉為utf-8格式
python實現文件批量轉為utf-8格式
xml_path = './' with open(xml_path , 'rb+') as f: content = f.read() codeType = detect(content)['encoding'] content = content.decode(codeType, "ignore").encode("utf8") fp.seek(0) fp.write(content)
到此這篇關於如何使用python批量修改文本文件編碼格式的文章就介紹到這瞭,更多相關python批量修改文本文件編碼格式內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- Python UnicodedecodeError編碼問題解決方法匯總
- Python文件處理、os模塊、glob模塊
- 詳解Python中的文件操作
- Python編碼規范擺脫Python編碼噩夢
- 使用Python批量對文本文件編碼互轉的方法