pandas中DataFrame數據合並連接（merge、join、concat)
pandas作者Wes McKinney 在【PYTHON FOR DATA ANALYSIS】中對pandas的方方面面都有瞭一個權威簡明的入門級的介紹，但在實際使用過程中，我發現書中的內容還隻是冰山一角。談到pandas數據的行更新、表合並等操作，一般用到的方法有concat、join、merge。但這三種方法對於很多新手來說，都不太好分清使用的場合與用途。今天就pandas官網中關於數據合並和重述的章節做個使用方法的總結。
文中代碼塊主要有pandas官網教程提供。
1 concat
concat函數是在pandas底下的方法，可以將數據根據不同的軸作簡單的融合
pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
keys=None, levels=None, names=None, verify_integrity=False)
參數說明
objs: series，dataframe或者是panel構成的序列lsit
axis： 需要合並鏈接的軸，0是行，1是列
join：連接的方式 inner，或者outer
其他一些參數不常用，用的時候再補上說明。
1.1 相同字段的表首尾相接
# 現將表構成list，然後在作為concat的輸入 In [4]: frames = [df1, df2, df3] In [5]: result = pd.concat(frames)
要在相接的時候在加上一個層次的key來識別數據源自於哪張表，可以增加key參數
In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])
效果如下
1.2 橫向表拼接（行對齊）
1.2.1 axis
當axis = 1的時候，concat就是行對齊，然後將不同列名稱的兩張表合並
In [9]: result = pd.concat([df1, df4], axis=1)
1.2.2 join
加上join參數的屬性，如果為’inner’得到的是兩表的交集，如果是outer，得到的是兩表的並集。
In [10]: result = pd.concat([df1, df4], axis=1, join='inner')
1.2.3 join_axes
如果有join_axes的參數傳入，可以指定根據那個軸來對齊數據
例如根據df1表對齊數據，就會保留指定的df1表的軸，然後將df4的表與之拼接
In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])
1.3
1.3 append
append是series和dataframe的方法，使用它就是默認沿著列進行憑借（axis = 0，列對齊）
In [12]: result = df1.append(df2)
1.4 無視index的concat
如果兩個表的index都沒有實際含義，使用ignore_index參數，置true，合並的兩個表就睡根據列字段對齊，然後合並。最後再重新整理一個新的index。
1.5 合並的同時增加區分數據組的鍵
前面提到的keys參數可以用來給合並後的表增加key來區分不同的表數據來源
1.5.1 可以直接用key參數實現
In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])
1.5.2 傳入字典來增加分組鍵
In [28]: pieces = {'x': df1, 'y': df2, 'z': df3}
In [29]: result = pd.concat(pieces)
1.6 在dataframe中加入新的行
append方法可以將 series 和 字典就夠的數據作為dataframe的新一行插入。
In [34]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D']) In [35]: result = df1.append(s2, ignore_index=True)
表格列字段不同的表合並
如果遇到兩張表的列字段本來就不一樣，但又想將兩個表合並，其中無效的值用nan來表示。那麼可以使用ignore_index來實現。
1
In [36]: dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4},
....: {'A': 5, 'B': 6, 'C': 7, 'Y': 8}]
....:
In [37]: result = df1.append(dicts, ignore_index=True)
在這裡，將接著介紹pandas中也常常用到的join 和merge方法
merge
pandas的merge方法提供瞭一種類似於SQL的內存鏈接操作，官網文檔提到它的性能會比其他開源語言的數據操作（例如R）要高效。
和SQL語句的對比可以看這裡
merge的參數
on：列名，join用來對齊的那一列的名字，用到這個參數的時候一定要保證左表和右表用來對齊的那一列都有相同的列名。
left_on：左表對齊的列，可以是列名，也可以是和dataframe同樣長度的arrays。
right_on：右表對齊的列，可以是列名，也可以是和dataframe同樣長度的arrays。
left_index/ right_index: 如果是True的haunted以index作為對齊的key
how：數據融合的方法。
sort：根據dataframe合並的keys按字典順序排序，默認是，如果置false可以提高表現。
merge的默認合並方法：
merge用於表內部基於 index-on-index 和 index-on-column(s) 的合並，但默認是基於index來合並。
1.1 復合key的合並方法
使用merge的時候可以選擇多個key作為復合可以來對齊合並。
1.1.1 通過on指定數據合並對齊的列
In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'],
....: 'key2': ['K0', 'K1', 'K0', 'K1'],
....: 'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3']})
....:
In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'],
....: 'key2': ['K0', 'K0', 'K0', 'K0'],
....: 'C': ['C0', 'C1', 'C2', 'C3'],
....: 'D': ['D0', 'D1', 'D2', 'D3']})
....:
In [43]: result = pd.merge(left, right, on=['key1', 'key2'])
沒有指定how的話默認使用inner方法。
how的方法有：
left
隻保留左表的所有數據
In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])
right
隻保留右表的所有數據
In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])
outer
保留兩個表的所有信息
In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])
inner
隻保留兩個表中公共部分的信息
In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])
1.2 indicator
v0.17.0 版本的pandas開始還支持一個indicator的參數，如果置True的時候，輸出結果會增加一列 ‘ _merge’。_merge列可以取三個值
- left_only 隻在左表中
- right_only 隻在右表中
- both 兩個表中都有
1.3 join方法
dataframe內置的join方法是一種快速合並的方法。它默認以index作為對齊的列。
1.3.1 how 參數
join中的how參數和merge中的how參數一樣，用來指定表合並保留數據的規則。
具體可見前面的 how 說明。
1.3.2 on 參數
在實際應用中如果右表的索引值正是左表的某一列的值，這時可以通過將 右表的索引 和 左表的列 對齊合並這樣靈活的方式進行合並。
ex 1
In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3'],
....: 'key': ['K0', 'K1', 'K0', 'K1']})
....:
In [60]: right = pd.DataFrame({'C': ['C0', 'C1'],
....: 'D': ['D0', 'D1']},
....: index=['K0', 'K1'])
....:
In [61]: result = left.join(right, on='key')
1.3.3 suffix後綴參數
如果和表合並的過程中遇到有一列兩個表都同名，但是值不同，合並的時候又都想保留下來，就可以用suffixes給每個表的重復列名增加後綴。
In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])
* 另外還有lsuffix 和 rsuffix分別指定左表的後綴和右表的後綴。
1.4 組合多個dataframe
一次組合多個dataframe的時候可以傳入元素為dataframe的列表或者tuple。一次join多個，一次解決多次煩惱~
In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2'])
In [84]: result = left.join([right, right2])
1.5 更新表的nan值
1.5.1 combine_first
如果一個表的nan值，在另一個表相同位置（相同索引和相同列）可以找到，則可以通過combine_first來更新數據
1.5.2 update
如果要用一張表中的數據來更新另一張表的數據則可以用update來實現
1.5.3 combine_first 和 update 的區別
使用combine_first會隻更新左表的nan值。而update則會更新左表的所有能在右表中找到的值（兩表位置相對應）。
總結
到此這篇關於pandas中DataFrame 數據合並連接（merge、join、concat)的文章就介紹到這瞭,更多相關pandas中DataFrame 數據合並內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！
推薦閱讀：
- 關於python DataFrame的合並方法總結
- Pandas實現Dataframe的合並
- python pandas數據處理教程之合並與拼接
- Python數據合並的concat函數與merge函數詳解
- python進行數據合並concat/merge