解決python 使用openpyxl讀寫大文件的坑

由於需要處理xlsx類型的文件，我使用瞭openpyxl來處理，然而文件比較大，大約有60多MB。讀文件的時候雖然慢瞭一點，但還是能夠讀出來，但是當我想寫入時卻報錯瞭。

顯示設備沒有多餘的空間，百度瞭一下，發現有不少關於openpyxl讀寫大文件的問題。總結來看，解決方案主要有以下兩種，當然，我兩種都用上瞭。

手動釋放內存

del wb, ws
gc.collect()

這一招還算有用，在讀完文件後可以看到內存占用明顯下降瞭一點。

使用命令·pip install lxml安裝依賴

這個依賴並非必須安裝的依賴，但是可以使openpyxl流式處理數據。

總之使用瞭以上兩種方案後，終於可以成功處理數據瞭。

補充：openpyxl讀取大文件的若幹問題

需要編寫一個EXCEL文件對比工具

excel文件通常8MB,300張左右的表,每張表實際范圍為ZZ500.

使用openpyxl對表格進行遍歷,完成兩個表之間的對比,找出公式不相同的單元格編程中遇到若幹問題

如 SS[‘AA’],這個數值沒有定義,因此報錯(PHP直接返回空值),使用SS.get(‘AA’,null)進行修改

D:\Python34\Lib\site-packages\openpyxl\reader\style.py

164: format_code = builtin_formats.get(numFmtId,'General')

基本就是內存占用瞭2G以上以後,程序就不動瞭,原因是某些表格的表格范圍識別的非常大,最大可為ZZ65535

通過研究,代碼進行瞭如下修改

1：使用X64版本,X64版本在運行時,可以運行4G以內內存占用的程序,比2G大一倍,能夠完成大部分表格的讀取,如ZZ5000,但是遇到ZZ65535范圍的表格,內存占用達到瞭4G+,也會導致程序停止運行.

2：限制最大單元格遍歷范圍,最大限制為ZZ5000,能夠有效降低內存占用

3：定時重新讀取EXCEL文件(如每對比30張表),釋放內存,(Python內存釋放真的很痛苦,全部是指針引用,A=B,DEL A;是不會釋放空間的,要DEL B才行).

4：雖然openpyxl讀取文件時有個隻讀模式(性能模式),但是速度實在是太慢瞭.

通過代碼修改，現在完成文件對比所用的內存通常在2G以內

以上為個人經驗，希望能給大傢一個參考，也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方，望不吝賜教。