Python使用os模塊實現更高效地讀寫文件
使用 os.open 打開文件
無論是讀文件還是寫文件,都要先打開文件。說到打開文件,估計首先想到的就是內置函數 open(即 io.open),那麼它和 os.open 有什麼關系呢?
內置函數 open 實際上是對 os.open 的封裝,在 os.open 基礎上增加瞭相關訪問方法。因此為瞭操作方便,應該調用內置函數 open 進行文件操作,但如果對效率要求較高的話,則可以考慮使用 os.open。
此外 open 函數返回的是一個文件對象,我們可以在此基礎上進行任意操作;而 os.open 返回的是一個文件描述符,說白瞭就是一個整數,因為每一個文件對象都會對應一個文件描述符。
import os f1 = open("main.c", "r") f2 = os.open("main.c", os.O_RDONLY) print(f1.__class__) print(f2.__class__) """ <class '_io.TextIOWrapper'> <class 'int'> """
Python 的 open 函數實際上是封裝瞭 C 的 fopen,C 的 fopen 又封裝瞭系統調用提供的 open。
操作系統提供瞭很多的系統調用,打開文件則是 open,我們看到它返回一個整數,這個整數就是對應的文件描述符。C 的 fopen 封裝瞭系統調用的 open,返回的是一個文件指針。
所以內置函數 open 和 os.open 的區別就更加清晰瞭,內置函數 open 在底層會使用 C 的 fopen,得到的是一個封裝好的文件對象,在此基礎上可以直接操作。至於 os.open 在底層則不走 C 的 fopen,而是直接使用系統調用提供的 open,得到的是文件描述符。
os 模塊內部的函數基本上都是直接走的系統調用,所以模塊名才叫 os。
然後我們使用 os.open 一般需要傳遞兩個參數,第一個參數是文件名,第二個參數是模式,舉個栗子:
import os # 以隻讀方式打開,要求文件必須存在 # 打開時光標處於文件的起始位置 os.open("main.c", os.O_RDONLY) # 以隻寫方式打開,要求文件必須存在 # 打開時光標處於文件的起始位置 os.open("main.c", os.O_WRONLY) # 以可讀可寫方式打開,要求文件必須存在 # 打開時光標處於文件的起始位置 os.open("main.c", os.O_RDWR) # 以隻讀方式打開,文件不存在則創建 # 存在則不做任何事情,等價於 os.O_RDONLY # 打開時光標處於文件的起始位置 os.open("main.c", os.O_RDONLY | os.O_CREAT) # 同理 os.O_WRONLY 和 os.O_RDWR 與之類似 os.open("main.c", os.O_WRONLY | os.O_CREAT) os.open("main.c", os.O_RDWR | os.O_CREAT) # 文件不存在時創建,存在時清空 # 打開時光標處於文件的起始位置 os.open("main.c", os.O_WRONLY | os.O_CREAT | os.O_TRUNC) # 當然讀取文件也是可以的 # 比如 os.O_RDONLY | os.O_CREAT | os.O_TRUNC # 也是文件存在時清空內容,但是這沒有任何意義 # 因為讀取的時候將文件清空瞭,那還讀什麼? # 文件不存在時創建,存在時追加 # 打開時光標處於文件的末尾 os.open("main.c", os.O_WRONLY | os.O_CREAT | os.O_APPEND) # 所以 """ open裡面的讀模式等價於這裡的 os.O_RDONLY open裡面的寫模式等價於這裡的 os.O_WRONLY | os.O_CREATE | os.O_TRUNC open裡面的追加模式等價於這裡的 os.O_WRONLY | os.O_CREATE | os.O_APPEND """
好,打開方式介紹完瞭,那麼怎麼讀取和寫入呢?很簡單,讀取使用 os.read,寫入使用 os.write。
使用 os.read 讀取文件
先來看讀取,os.read 接收兩個參數,第一個參數是文件描述符,第二個參數是要讀取多少個字節。
import os fd = os.open("main.c", os.O_RDONLY) # 使用 os.read 進行讀取 # 這裡讀取 20 個字節 data = os.read(fd, 20) print(data) """ b'#include <Python.h>' """ # 再讀取 20 個字節 data = os.read(fd, 20) print(data) """ b'\n#include <ctype.h>' """ # 繼續讀取 data = os.read(fd, 20) # 由於隻剩下一個字節 # 所以就讀取瞭一個字節 # 顯然此時文件已經讀完瞭 print(data) """ b'\n' """ # 文件讀取完畢之後 # 再讀取的話會返回空字節串 print(os.read(fd, 20)) # b'' print(os.read(fd, 20)) # b'' print(os.read(fd, 20)) # b''
所以這就是文件的讀取方式,還是很簡單的。然後在讀取的過程中,我們還可以移動光標,通過 os.lseek 函數。
- os.lseek(fd, m, 0):將光標從文件的起始位置向後移動 m 個字節;
- os.lseek(fd, m, 1):將光標從當前所在的位置向後移動 m 個字節;
- os.lseek(fd, m, 2):將光標從文件的結束位置向後移動 m 個字節;
如果 m 大於 0,表示向後移動,m 小於 0,表示向前移動。所以當第三個參數為 2 的時候,也就是結束位置,那麼 m 一般為負數。因為相對於結束位置,肯定要向前移動,當然向後移動也可以,不過沒啥意義;同理當第三個參數為 0 時,m 一般為正數,相對於起始位置,肯定要向後移動。
import os fd = os.open("main.c", os.O_RDONLY) data = os.read(fd, 20) print(data) """ b'#include <Python.h>' """ # 從文件的起始位置向後移動 0 個字節 # 相當於將光標設置在文件的起始位置 os.lseek(fd, 0, 0) data = os.read(fd, 20) print(data) """ b'#include <Python.h>' """ # 設置在結束位置 os.lseek(fd, 0, 2) print(os.read(fd, 20)) # b'' # 此時就什麼也讀不出來瞭
然後我們提一下 stdin, stdout, stderr,含義應該不需要解釋瞭,重點是它們對應的文件描述符分別為 0, 1, 2。
import os # 從標準輸入裡面讀取 10 個字節 # 沒錯,此時作用類似於 input while True: data = os.read(0, 10).strip() print(f"你輸入瞭:", data) if data == b"exit": break
我們測試一下:
os.read 可以實現 input 的效果,並且效率更高。另外當按下回車時,換行符也會被讀進去,所以需要 strip 一下。然後我們這裡讀的是 10 個字節,如果一次讀不完,那麼會分多次讀取。在讀取文件的時候,也是同理。
from io import BytesIO import os fd = os.open("main.c", os.O_RDONLY) buf = BytesIO() while True: data = os.read(fd, 10) if data != b"": buf.write(data) else: break print(buf.getvalue().decode("utf-8")) """ #include <Python.h> #include <ctype.h> """
然後 os.read 還可以和內置函數 open 結合,舉個栗子:
import os import io f = open("main.c", "r") # 通過 f.fileno() 即可拿到對應的文件描述符 # 雖然這裡是以文本模式打開的文件 # 但隻要拿到文件描述符,都可以交給 os.read print( os.read(f.fileno(), 10) ) # b'#include <' # 查看光標位置 print(f.tell()) # 10 # 移動光標位置 # 從文件開頭向後移動 5 字節 f.seek(5, 0) print(f.tell()) # 5 # os.lseek 也可以實現 os.lseek(f.fileno(), 3, 0) print(f.tell()) # 3 # 此時會從第 4 個字節開始讀取 print(f.read()) """ clude <Python.h> #include <ctype.h> """ # os.lseek 比 f.seek 要強大一些 # 移動到文件末尾,此時沒問題 f.seek(0, 2) print(f.tell()) # 41 try: f.seek(-1, 2) except io.UnsupportedOperation as e: print(e) """ can't do nonzero end-relative seeks """ # 但如果要相對文件末尾移動具體的字節數 # 那麼 f.seek 不支持,而 os.lseek 是可以的 print(f.tell()) # 41 os.lseek(f.fileno(), -1, 2) print(f.tell()) # 40 # 最後隻剩下一個換行符 print(os.read(f.fileno(), 10)) # b'\n'
是不是很好玩呢?
使用 os.write 寫入文件
然後是寫入文件,調用 os.write 即可寫入。
import os # 此時可讀可寫,文件不存在時自動創建,存在則清空 fd = os.open("1.txt", os.O_RDWR | os.O_CREAT | os.O_TRUNC) # 寫入內容,接收兩個參數 # 參數一:文件描述符;參數二:bytes 對象 os.write(fd, b"hello, ") os.write(fd, "古明地覺".encode("utf-8")) # 讀取內容 data = os.read(fd, 1024) print(data) # b'' # 問題來瞭,為啥讀取不到內容呢? # 很簡單,因為光標會伴隨著數據的寫入而不斷後移 # 這樣的話,數據才能不斷地寫入 # 因此,現在的光標位於文件的結尾處 # 想要查看寫入的內容需要移動到開頭 os.lseek(fd, 0, 0) print(os.read(fd, 1024).decode("utf-8")) """ hello, 古明地覺 """ # 從後往前移動 3 字節 os.lseek(fd, -3, 2) print(os.read(fd, 1024).decode("utf-8")) """ 覺 """
以上就是文件的寫入,當然它也可以和內置函數 open 結合,通過 os.write(f.fileno(), b"xxx") 進行寫入。但是不建議 os.open 和 open 混用,其實工作中使用 open 就足夠瞭。
然後是 stdout 和 stderr,和 os.write 結合可以實現 print 的效果。
import os os.write(1, "往 stdout 裡面寫入\n".encode("utf-8")) os.write(2, "往 stderr 裡面寫入\n".encode("utf-8"))
執行一下,查看控制臺:
以上就是 os.write 的用法。
最後是關閉文件,使用 os.close 即可。
import os import io fd = os.open("1.txt", os.O_RDWR | os.O_CREAT | os.O_TRUNC) # 關閉文件 os.close(fd) # 文件對象也是可以的 f = open(r"1.txt", "r") os.close(f.fileno()) try: f.read() except OSError as e: print(e) """ [Errno 9] Bad file descriptor """
如果是調用 f.close() 關閉文件,再進行讀取的話,會拋出一個 ValueError,提示 I/O operation on closed file。這個報錯信息比較明顯,不應該在關閉的文件上執行 IO 操作,因為文件對象知道文件已經關閉瞭,畢竟調用的是自己的 close 方法,所以這個報錯是解釋器給出的。當然啦,調用 f.close 也會觸發 os.close,因為關閉文件最終還是要交給操作系統負責的。
但如果是直接關閉底層的文件描述符,文件對象是不知道的,再使用 f.read() 依舊會觸發系統調用,也就是 os.read。而操作系統發現文件已經關閉瞭,所以會報錯:文件描述符有問題,此時就是一個 OSError,報錯信息是操作系統給出的。
import os f = open(r"1.txt", "r") # 文件是否關閉 print(f.closed) # False os.close(f.fileno()) print(f.closed) # False # 所以調用 os.close,文件對象 f 並不知道 # f.read 依舊會觸發系統調用
如果是使用 f.close()。
f = open(r"1.txt", "r") f.close() print(f.closed) # True
後續執行 IO 操作,就不會再走系統調用瞭,而是直接拋出 ValueError,原因是文件對象知道文件已經關閉瞭。
除瞭 os.close 之外,還有一個 os.closerange,可以關閉多個文件描述符對應的文件。
import os # 關閉文件描述符為 1、2、3、4 的文件 os.closerange(1, 5)
該方法不是很常用,瞭解一下即可。
以上就是使用 os 模塊操作文件,它是直接使用操作系統提供的系統調用,所以效率上會比內置函數 open 要高一些。但是工作中還是不太建議使用 os 模塊操作文件,使用內置函數 open 就好。
到此這篇關於Python使用os模塊實現更高效地讀寫文件的文章就介紹到這瞭,更多相關Python os模塊讀寫文件內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!