pandas數據的合並與拼接的實現

Posted on by

Pandas包的merge、join、concat方法可以完成數據的合並和拼接，merge方法主要基於兩個dataframe的共同列進行合並，join方法主要基於兩個dataframe的索引進行合並，concat方法是對series或dataframe進行行拼接或列拼接。

1. Merge方法

pandas的merge方法是基於共同列，將兩個dataframe連接起來。merge方法的主要參數：

  • left/right：左/右位置的dataframe。
  • how：數據合並的方式。left：基於左dataframe列的數據合並；right：基於右dataframe列的數據合並；outer：基於列的數據外合並（取並集）；inner：基於列的數據內合並（取交集）；默認為’inner’。
  • on：用來合並的列名，這個參數需要保證兩個dataframe有相同的列名。
  • left_on/right_on：左/右dataframe合並的列名，也可為索引，數組和列表。
  • left_index/right_index：是否以index作為數據合並的列名，True表示是。
  • sort：根據dataframe合並的keys排序，默認是。
  • suffixes：若有相同列且該列沒有作為合並的列，可通過suffixes設置該列的後綴名，一般為元組和列表類型。

merges通過設置how參數選擇兩個dataframe的連接方式，有內連接，外連接，左連接，右連接，下面通過例子介紹連接的含義。

1.1 內連接

　　how=’inner’，dataframe的鏈接方式為內連接，我們可以理解基於共同列的交集進行連接，參數on設置連接的共有列名。

# 單列的內連接
# 定義df1
import pandas as pd
import numpy as np

df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1],
            'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'],
            'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
# print(df1)
# print(df2)
# 基於共同列alpha的內連接
df3 = pd.merge(df1,df2,how='inner',on='alpha')
df3

　　取共同列alpha值的交集進行連接。

1.2 外連接

　　how=’outer’，dataframe的鏈接方式為外連接，我們可以理解基於共同列的並集進行連接，參數on設置連接的共有列名。

# 單列的外連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1],
                'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
# 基於共同列alpha的內連接
df4 = pd.merge(df1,df2,how='outer',on='alpha')
df4

　　若兩個dataframe間除瞭on設置的連接列外並無相同列，則該列的值置為NaN。

1.3 左連接

　　how=’left’，dataframe的鏈接方式為左連接，我們可以理解基於左邊位置dataframe的列進行連接，參數on設置連接的共有列名。　　

# 單列的左連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1],
    'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
# 基於共同列alpha的左連接
df5 = pd.merge(df1,df2,how='left',on='alpha')
df5

　　因為df2的連接列alpha有兩個’A’值，所以左連接的df5有兩個’A’值，若兩個dataframe間除瞭on設置的連接列外並無相同列，則該列的值置為NaN。

1.4 右連接

　　how=’right’，dataframe的鏈接方式為左連接，我們可以理解基於右邊位置dataframe的列進行連接，參數on設置連接的共有列名。

# 單列的右連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1],
'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
# 基於共同列alpha的右連接
df6 = pd.merge(df1,df2,how='right',on='alpha')
df6

　　因為df1的連接列alpha有兩個’B’值，所以右連接的df6有兩個’B’值。若兩個dataframe間除瞭on設置的連接列外並無相同列，則該列的值置為NaN。

1.5 基於多列的連接算法

　　多列連接的算法與單列連接一致，本節隻介紹基於多列的內連接和右連接，讀者可自己編碼並按照本文給出的圖解方式去理解外連接和左連接。

多列的內連接：

# 多列的內連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'],
                    'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'beta':['d','d','b','f'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
# 基於共同列alpha和beta的內連接
df7 = pd.merge(df1,df2,on=['alpha','beta'],how='inner')
df7

多列的右連接：

# 多列的右連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'],
                    'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'beta':['d','d','b','f'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])})
print(df1)
print(df2)

# 基於共同列alpha和beta的右連接
df8 = pd.merge(df1,df2,on=['alpha','beta'],how='right')
df8

1.6 基於index的連接方法

前面介紹瞭基於column的連接方法，merge方法亦可基於index連接dataframe。

# 基於column和index的右連接
# 定義df1
df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'],
                    'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']})
# 定義df2
df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'],
                        'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])},index=['d','d','b','f'])
print(df1)
print(df2)

# 基於df1的beta列和df2的index連接
df9 = pd.merge(df1,df2,how='inner',left_on='beta',right_index=True)
df9

圖解index和column的內連接方法：

設置參數suffixes以修改除連接列外相同列的後綴名。

# 基於df1的alpha列和df2的index內連接
df9 = pd.merge(df1,df2,how='inner',left_on='beta',right_index=True,suffixes=('_df1','_df2'))
df9

2. join方法

　　join方法是基於index連接dataframe，merge方法是基於column連接，連接方法有內連接，外連接，左連接和右連接，與merge一致。

index與index的連接：

caller = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']})
other = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']})
print(caller)print(other)# lsuffix和rsuffix設置連接的後綴名
caller.join(other,lsuffix='_caller', rsuffix='_other',how='inner')

join也可以基於列進行連接：

caller = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']})
other = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']})
print(caller)
print(other)

# 基於key列進行連接
caller.set_index('key').join(other.set_index('key'),how='inner')

因此，join和merge的連接方法類似，這裡就不展開join方法瞭，建議用merge方法。

3. concat方法

　　concat方法是拼接函數，有行拼接和列拼接，默認是行拼接，拼接方法默認是外拼接（並集），拼接的對象是pandas數據類型。

3.1 series類型的拼接方法

行拼接：

df1 = pd.Series([1.1,2.2,3.3],index=['i1','i2','i3'])
df2 = pd.Series([4.4,5.5,6.6],index=['i2','i3','i4'])
print(df1)
print(df2)

# 行拼接
pd.concat([df1,df2])

行拼接若有相同的索引，為瞭區分索引，我們在最外層定義瞭索引的分組情況。

# 對行拼接分組
pd.concat([df1,df2],keys=['fea1','fea2'])

列拼接：

默認以並集的方式拼接：

# 列拼接,默認是並集
pd.concat([df1,df2],axis=1)

以交集的方式拼接：

# 列拼接的內連接（交）
pd.concat([df1,df2],axis=1,join='inner')

設置列拼接的列名：

# 列拼接的內連接（交）
pd.concat([df1,df2],axis=1,join='inner',keys=['fea1','fea2'])

對指定的索引拼接：

# 指定索引[i1,i2,i3]的列拼接
pd.concat([df1,df2],axis=1,join_axes=[['i1','i2','i3']])

3.2 dataframe類型的拼接方法

行拼接：

df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']})
df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']})
print(df1)
print(df2)

# 行拼接
pd.concat([df1,df2])

列拼接：

# 列拼接
pd.concat([df1,df2],axis=1)

若列拼接或行拼接有重復的列名和行名，則報錯：

# 判斷是否有重復的列名，若有則報錯
pd.concat([df1,df2],axis=1,verify_integrity = True)

ValueError: Indexes have overlapping values: [‘key’]

4. 小結

merge和join方法基本上能實現相同的功能，建議用merge。

到此這篇關於pandas數據的合並與拼接的實現的文章就介紹到這瞭,更多相關pandas數據合並與拼接內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！

推薦閱讀：