Pandas數據結構詳細說明及如何創建Series,DataFrame對象方法
在網絡上的Pandas教程中,很多都提到瞭如何使用Pandas將已有的數據(如csv,如hdfs等)直接加載成Pandas數據對象,然後在其基礎上進行數據分析操作,但是,很多時候,我們需要自己創建Pandas數據對象,並填入一些數據,常見的應用場景如:我們想要將現有的數據進行處理,並生成一個新的Pandas數據對象,還有,我們想利用Pandas的數據保存功能(比如to_csv, to_json, to_hdf等等)把我們采集到的數據寫入到IO裡邊,因此掌握Pandas對象的特性,以及如何創建也是很重要的。
有些時候我們需要利用pandas數據結構創建自己的對象,按自己的方式保存新數據,我們將在本文中介紹如何實現。
1. Pandas的兩種數據類型
Pandas支持兩種數據類型,分別為Series和DataFrame,其中:
Series – 是一個帶有標簽的一維數組,支持多種不同的類型,但是針對同一個Series裡邊存儲的數據類型必須是一致的
DataFrame – 是一個帶有標簽的二維數組,是一個尺寸可以修改的表格,一個DataFrame由多個Series組成,每一列都是一個Series
一句話描述的話就是,Series是很多標量數據(Scalar)的集合,而DataFrame是很多Series的集合。
我們來看下圖這個例子,在1D的Series中,下圖中有三個Series,分別保存瞭姓名(name), 年齡(age)和得分(marks),而他們的每一行都分別對應一個不同的人的信息,在每一個Series中的每一個單元格中(比如name series的第1行,對應的Prasadi)都是一個標量(Scalar),而每一行前邊的0,1,2,3這些就是數據的索引(index),也可以叫做標簽,所以說,Series是帶有標簽的一維數組。
可以看出,利用Series隻能存儲一種類型的數據,比如說name series存儲的數據是字符串類型,而age series存儲的數據是整數型。如果我們想把name,age,marks存儲在一個數據結構裡,我們就需要使用DataFrame,從圖中看出,DataFrame類似於一個表格數據,有行有列,行跟Series的行一致,是數據的標簽,而每一列就是原來的每一個Series。
2. Series類型
如我們在前文中所說,Series結構中可以存儲任何類型的數據,包括:整型,字符串類型,浮點型,甚至是Python對象等等,但是要求是,每一行的數據類型必須統一。那麼如何創建一個Series對象呢,
通過numpy array
Pandas的一個主要用途是數據分析,而它也是基於Numpy實現的,因此,通過numpy array來創建Series是非常常見的。
np_array = np.random.randn(5) pd.Series(np_array, index=['a', 'b', 'c', 'd', 'e'])
上邊這段代碼,利用np.random.randn隨機生成一個長度為5的numpy array,然後pd.Series使用這個numpy array來創建一個Series,在創建的同時,指定瞭每一行的index(標簽)分別是a,b,c,d,e,f,輸出結果為:
通過Python字典
通過上邊這個示例,大傢有沒有發現Series跟Python內置的dict類型是不是很類似,標簽相當於dict中的key,而數據內容相當於dict中的value,它們有一一對應的關系,因此,可以想象,我們能夠直接通過Python的dict來創建一個Series。
d = {'b': 1, 'a': 0, 'c': 2} pd.Series(d)
上邊這段代碼,我們先創建瞭一個Python地點d,然後將這個字典傳遞給pd.Series來創建一個Pandas Series,運行結果為:
通過標量值(Scalar)
除瞭上邊這兩種方式,我們還可以通過一個簡單的標量值來創建Series,特別註意的是跟上邊兩種方式不同,在使用這種方式創建Series的時候,我們必須指定index
pd.Series(5, index=['a', 'b', 'c', 'd', 'e'])
如上邊代碼所示,我們使用一個常量5,然後指定index為a,b,c,d,e,同樣使用pd.Series可以創建一個Series對象,看到這裡我們就能夠明白為什麼必須指定Index瞭吧,那是因為Series對象是有長度的,長度是可以大於1的,而標量的長度固定為1,我們可以通過指定Index的方式來控制生成的Series的長度,Series中的值則是重復使用這一個標量常量5。其運行結果為:
name屬性
當我們創建一個Series的時候,我們可以指定一個名稱,這個名稱會被存儲到Series的name屬性中,後續我們還可以使用rename方法來修改這個屬性,例如下邊這樣的代碼:
s = pd.Series(np.random.randn(5), name='this_is_name') s
創建瞭一個名稱為this_is_name的Series,然後我們使用rename方法來重命名這個Series為this_is_new_name:
s = s.rename('this_is_new_name') s
上邊這兩部分代碼的輸入如下圖:
那麼這個名稱有什麼作用呢,這裡預告一下,我們將在DataFrame中用到(別忘瞭DataFrame是多個Series的集合)
3. DataFrame類型
在第一節中我們介紹到,DataFrame是一個二維的表格數據結構,它有行和列的概念,跟行標簽相對應的,為瞭能夠按列索引數據,每一列都可以有一個名稱,即列名,我們剛在Series章節中看到,Series可以表示一列數據,我們在本節中介紹的DataFrame就是多個這樣的Series的組合,每一列就對應一個Series,而每一行也對應一個Series。讀到這裡,你是不是能夠猜的出我們剛說的Series的name屬性的用途瞭,對瞭,使用Series創建DataFrame的列的時候,Series的名稱就會成為列名,如果Series作為行,則Series的名稱會成為行名。
接下來我們來講解如何創建DataFrame
通過一維numpy array或者Python List 組成的字典
大傢可以想想,如果一個字典的value是array或者list的時候,那麼這個字典其實就是一種表格結構,圖為DataFrame是一個表格結構的數據類型,我們是可以通過這樣的字典來創建DataFrame,例如下邊這段代碼
d = {'one': [1., 2., 3., 4.], 'two': [4., 3., 2., 1.]} pd.DataFrame(d, index=['a', 'b', 'c', 'd'])
我們把d這個Python字典傳遞給pd.DataFrame來創建新的DataFrame,同時我們可以通過指定index來指定DataFrame的行名(標簽),上邊代碼的輸出為
通過包含列表的Python List
我們再來想想一下,除瞭字典之外可以表示表格數據,還有沒有其他的方法,是的,還有Python List,例如下邊這段代碼
data = [(1, 2., 'Hello'), (2, 3., "World")] pd.DataFrame(data)
我們可以用data這樣的Python List來表示表格數據,不同於前邊提到的字典(dict),用List表示的表格數據其實是沒有行名和列名的,因此Pandas默認會自動生成行名和列名,所以上邊的代碼輸出為:
當然,自動生成的行名列名沒有任何意義,為瞭更好的操作數據,我們還可以通過設置pd.DataFrame方法的index或者columns參數來指定自己的行名或者列名。
通過包含Python 字典的Python List
我們繼續想想,還有什麼能夠表示表格數據?對瞭,包含Python字典的Python List也是可以表達表格數據的,例如下邊的代碼
data = [{'a': 1, 'b': 2}, {'a': 5, 'b': 10, 'c': 20}] pd.DataFrame(data)
data是一個Python List,而列表中的每一個元素都是一個字典,運行結果為:
類似的,我們也可以通過指定index或者columns參數來修改行名和列名
通過Series
我們一直在提DataFrame是很多Series的集合(註:Series在DataFrame中可以是一行,也可以是一列),因此,我們也可以通過Series來創建DataFrame,例如下邊這段代碼
s1 = pd.Series(np.random.randn(5), name='this_is_name') df = pd.DataFrame(s1) df
利用s1這個Series來創建隻有一列的DataFrame,輸出結果為:
還記得不,我們前邊提到瞭Series的name屬性,在使用Series創建DataFrame的時候,這個屬性會用來作為列名(或者行名,我們在下邊的列子可以看得出),例如下邊的這段代碼,如果有兩個Series,我們還可以用下邊這樣的方式創建DataFrame
s1 = pd.Series(np.random.randn(5), name='this_is_name') s2 = s.rename('this_is_new_name') df = pd.DataFrame([s1, s2]) df
這裡我們使用瞭兩個名分別為this_is_name和this_is_new_name的Series來創建DataFrame,得到的結果為:
到這裡,相信讀者已經對Pandas提供的數據類型有瞭一個全面的認識瞭,並且有能力自己創建Pandas數據結構,並存儲自己的數據瞭,一個常見的應用場景就是我們通過爬蟲獲取到數據以後,可以將這些非結構化的數據以Pandas的表格格式保存,值得註意的是數據存儲在Pandas數據結構中的時候,數據其實是在內存中的,當程序被關閉以後,數據就丟失瞭,如果我們需要將數據持久化保存到硬盤或者數據庫中的話,則可以通過簡單的調用Pandas提供的to_csv, to_json, to_hdf等等接口將數據永久保存下來。
更多Python Pandas庫的相關文章,請點擊下面的相關文章
推薦閱讀:
- Pandas reindex重置索引的使用
- Python Pandas學習之Pandas數據結構詳解
- Python Pandas工具繪制數據圖使用教程
- Python數據分析 Pandas Series對象操作
- Python Pandas創建Dataframe數據框的六種方法匯總