如何用pandas處理hdf5文件
什麼是HDF5
HDF5:Hierarchical Data Format Version 5,對於存儲大規模、具有相同類型的數據,HDF5是一種非常不錯的存儲格式,文件後綴名為h5。這種格式的文件的存儲和讀取速度非常快,並且我們可以把HDF5文件看成是一個”目錄”,它是分層次的,我們來看看如何操作。
創建和讀取HDF5文件
import pandas as pd import numpy as np hdf5 = pd.HDFStore("hello.h5", mode="w", complevel=9) """ path: 文件路徑 mode: 和python的open函數中的mode一致 complevel: 壓縮級別,默認是0到9。值越大,壓縮程度越高,那麼最終形成的文件所占的體積越小,但是相應的,在讀取的時候用的解壓縮的時間就越長 """ # 打印是一個HDFStore對象 print(hdf5) # <class 'pandas.io.pytables.HDFStore'> # 存儲數據,可以直接使用賦值的方式 hdf5["series"] = pd.Series([1, 2, 3, 4, 5]) hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4))) # 除此之外,還可以使用put的方式 """ hdf5.put("series", pd.Series([1, 2, 3, 4, 5])) hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))) put函數裡面支持如下參數: key:寫入數據的key value:寫入數據的value format:指定寫出的模式,指定為"fixed",那麼速度會快,但是不支持追加和查詢。指定為"table",會以表格的模式寫出,速度稍慢,但是支持追加和查詢操作 """ # 我們可以通過items來查看相應屬性,類似於字典的items print(list(hdf5.items())) """ File path: hello.h5 [('/dataframe', /dataframe (Group) '' children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) '' children := ['index' (CArray), 'values' (CArray)])] """ # items不太好看,我們來看keys,查看keys,但是註意:沒有values # 我們發現key是類似於目錄一樣的東西,名字就是我們設置的名字 # 所以我們可以把HDF5看成是目錄,裡面不同的目錄對應不同的內容 print(hdf5.keys()) # ['/dataframe', '/series'] # 查看元素直接調用即可 print(hdf5["dataframe"]) """ 0 1 2 3 0 4 8 5 6 1 4 6 7 9 2 6 3 9 4 3 8 9 3 9 4 6 6 3 4 5 6 9 9 8 6 4 8 9 6 7 9 5 8 8 """ # 刪除某個key,調用remove hdf5.remove("series") print(hdf5.keys()) # ['/dataframe'] # 如果想將數據保存到本地,那麼調用close方法即可 hdf5.close() # 查看數據流是否開啟,返回False代表關閉瞭 print(hdf5.is_open) # False # 另外創建HDF5文件,除瞭使用HDFStore,還可以通過先有的DataFrame進行操作。需要指定路徑和key # df.to_hdf("xx.h5", key="key")
下面來看看如何讀取文件
import pandas as pd import numpy as np # 將mode改成r即可 hdf5 = pd.HDFStore("hello.h5", mode="r") # 或者 """ hdfs = pd.read_hdf("hello.h5", key="xxx") """ # 至於操作我們上面已經介紹瞭
hdf5這種格式是一種非常不錯的格式,它無論是在存儲方面和讀取方面,文件大小和讀取數據都比csv強不少,因此如果要存儲大量的數據的話,那麼hdf5這種文件格式是一種非常不錯的選擇。
以上就是如何用pandas處理hdf5文件的詳細內容,更多關於pandas處理hdf5文件的資料請關註WalkonNet其它相關文章!
推薦閱讀:
- 淺析pandas隨機排列與隨機抽樣
- pandas多層索引的創建和取值以及排序的實現
- Pandas reindex重置索引的使用
- MySQL數據優化-多層索引
- Python Pandas學習之Pandas數據結構詳解