Python 列表(List)的底層實現原理分析

Python 列表的數據結構是怎麼樣的？

列表實際上采用的就是數據結構中的順序表，而且是一種采用分離式技術實現的動態順序表

但這是不是Python的列表？

我的結論是順序表是列表的一種實現方式。

書上說的是：列表實現可以是數組和鏈表。

順序表是怎麼回事？順序表一般是數組。

列表是一個線性的集合，它允許用戶在任何位置插入、刪除、訪問和替換元素。

列表實現是基於數組或基於鏈表結構的。當使用列表迭代器的時候，雙鏈表結構比單鏈表結構更快。

有序的列表是元素總是按照升序或者降序排列的元素。

實現細節

python中的列表的英文名是list，因此很容易和其它語言(C++, Java等)標準庫中常見的鏈表混淆。事實上CPython的列表根本不是列表（可能換成英文理解起來容易些：python中的list不是list）。在CPython中，列表被實現為長度可變的數組。

可參考《Python高級編程（第2版）》

從細節上看，Python中的列表是由對其它對象的引用組成的連續數組。指向這個數組的指針及其長度被保存在一個列表頭結構中。

這意味著，每次添加或刪除一個元素時，由引用組成的數組需要該標大小（重新分配）。

幸運的是，Python在創建這些數組時采用瞭指數分配，所以並不是每次操作都需要改變數組的大小。但是，也因為這個原因添加或取出元素的平攤復雜度較低。

不幸的是，在普通鏈表上“代價很小”的其它一些操作在Python中計算復雜度相對過高。

利用 list.insert(i,item) 方法在任意位置插入一個元素——復雜度O(N)

利用 list.pop(i) 或 list.remove(value) 刪除一個元素——復雜度O(N)

列表的算法效率

可以采用時間復雜度來衡量：

index() O(1)

append O(1)

pop() O(1)

pop(i) O(n)

insert(i,item) O(n)

del operator O(n)

iteration O(n)

contains(in) O(n)

get slice[x:y] O(k)

del slice O(n)

set slice O(n+k)

reverse O(n)

concatenate O(k)

sort O(nlogn)

multiply O(nk)

O括號裡面的值越大代表效率越低

列表和元組

列表和元組的區別是顯然的：

列表是動態的，其大小可以該標 (重新分配)；

而元組是不可變的，一旦創建就不能修改。

list和tuple在c實現上是很相似的，對於元素數量大的時候，

都是一個數組指針，指針指向相應的對象，找不到tuple比list快的理由。

但對於小對象來說，tuple會有一個對象池，所以小的、重復的使用tuple還有益處的。

為什麼要有tuple，還有很多的合理性。

實際情況中的確也有不少大小固定的列表結構，例如二維地理坐標等；

另外tuple也給元素天然地賦予瞭隻讀屬性。

認為tuple比list快的人大概是把python的tuple和list類比成C++中的數組和列表瞭。

補充：python list, tuple, dictionary, set的底層細節

list, tuple, dictionary, set是python中4中常見的集合類型。在筆者之前的學習中，隻是簡單瞭學習它們4者的使用，現記錄一下更深底層的知識。

列表和元組

列表和元組的區別是顯然的：列表是動態的，其大小可以該標；而元組是不可變的，一旦創建就不能修改。

實現細節

python中的列表的英文名是list，因此很容易和其它語言(C++, Java等)標準庫中常見的鏈表混淆。事實上CPython的列表根本不是列表（可能換成英文理解起來容易些：python中的list不是list）。在CPython中，列表被實現為長度可變的數組。

從細節上看，Python中的列表是由對其它對象的引用組成的連續數組。指向這個數組的指針及其長度被保存在一個列表頭結構中。這意味著，每次添加或刪除一個元素時，由引用組成的數組需要該標大小（重新分配）。幸運的是，Python在創建這些數組時采用瞭指數過分配，所以並不是每次操作都需要改變數組的大小。但是，也因為這個原因添加或取出元素的平攤復雜度較低。

不幸的是，在普通鏈表上“代價很小”的其它一些操作在Python中計算復雜度相對過高。

利用 list.insert方法在任意位置插入一個元素——復雜度O(N)

利用 list.delete或del刪除一個元素——復雜度O(N)

列表推導

要習慣用列表推導，因為這更加高效和簡短，涉及的語法元素少。在大型的程序中，這意味著更少的錯誤，代碼也更容易閱讀。

>>>[i for i in range(10) if i % 2 == 0]
 [0, 2, 4, 6, 8]

其它習語

1.使用enumerate.在循環使用序列時，這個內置函數可以方便的獲取其索引：

for i, element in enumerate(['one', 'two', 'three']):
 print(i, element)

result：

0 one
1 two
2 three

2.如果需要一個一個合並多個列表中的元素，可以使用zip()。對兩個大小相等的可迭代對象進行均勻遍歷時，這是一個非常常用的模式：

for item in zip([1, 2, 3], [4, 5, 6]):
 print(item)

(1, 4)
(2, 5)
(3, 6)

3.序列解包

#帶星號的表達式可以獲取序列的剩餘部分
>>>first, second, *reset = 0, 1, 2, 3
>>>first
0
>>>second
1
>>>reset
[2, 3]

字典

字典是python中最通用的數據結構之一。dict可以將一組唯一的鍵映射到相應的值。

我們也可以用前面列表推導的方式來創建一個字典。

squares = {number: number**2 for number in range(10)}
print(squares)

result：

{0: 0, 1: 1, 2: 4, 3: 9, 4: 16, 5: 25, 6: 36, 7: 49, 8: 64, 9: 81}

在遍歷字典元素時，有一點需要特別註意。字典裡的keys(), values()和items()3個方法的返回值不再是列表，而是視圖對象（view objects）。

keys(): 返回dict_keys對象，可以查看字典所有鍵

values():返回dict_values對象，可以查看字典的所有值

items():返回dict_items對象，可以查看字典所有的{key, value}二元元組。

視圖對象可以動態查看字典的內容，因此每次字典發生變化的時候，視圖都會相應的改變，見下面這個例子：

words = {'foo': 'bar', 'fizz': 'bazz'}
items= words.items()
words['spam'] = 'eggs'
print(items)

result：

dict_items([('foo', 'bar'), ('fizz', 'bazz'), ('spam', 'eggs')])

視圖無需冗餘的將所有值都保存在內存中，像列表那樣。但你仍然可以獲取其長度（使用len）,也可以測試元素是否包含在其中（使用in子句）。當然，視圖是迭代的。

實現細節

CPython使用偽隨機探測(pseudo-random probing)的散列表(hash table)作為字典的底層數據結構。由於這個實現細節，隻有可哈希的對象才能作為字典的鍵。

Python中所有不可變的內置類型都是可哈希的。可變類型（如列表，字典和集合）就是不可哈希的，因此不能作為字典的鍵。

字典的三個基本操作（添加元素，獲取元素和刪除元素）的平均事件復雜度為O(1)，但是他們的平攤最壞情況復雜度要高得多，為O(N).

還有一點很重要，在復制和遍歷字典的操作中，最壞的復雜度中的n是字典曾經達到的最大元素數目，而不是當前的元素數目。換句話說，如果一個字典曾經元素個數很多，後來又大大減小瞭，那麼遍歷這個字典可能會花費相當長的事件。

因此在某些情況下，如果需要頻繁的遍歷某個詞典，那麼最好創建一個新的字典對象，而不是僅在舊字典中刪除元素。

字典的缺點和替代方案

使用字典的常見陷阱就是，它並不會按照鍵的添加順序來保存元素的順序。在某些情況下，字典的鍵是連續的，對應的散列值也是連續值（例如整數），那麼由於字典的內部實現，元素的實現可能和添加的順序相同：

keys = {num: None for num in range(5)}.keys()
print(keys)

result：

dict_keys([0, 1, 2, 3, 4])

但是，如果散列方法不同的其它數據類型，那麼字典就不會保存元素順序。

age = {str(i): i for i in range(100)}
keys = age.keys()
print(keys)

result：

dict_keys(['0', '1', '2', '3', '4', '5', '6', '7', '8', '9', '10', '11', '12', '13', '14', '15', '16', '17', '18', '19', '20', '21', '22', '23', '24', '25', '26', '27', '28', '29', '30', '31', '32', '33', '34', '35', '36', '37', '38', '39', '40', '41', '42', '43', '44', '45', '46', '47', '48', '49', '50', '51', '52', '53', '54', '55', '56', '57', '58', '59', '60', '61', '62', '63', '64', '65', '66', '67', '68', '69', '70', '71', '72', '73', '74', '75', '76', '77', '78', '79', '80', '81', '82', '83', '84', '85', '86', '87', '88', '89', '90', '91', '92', '93', '94', '95', '96', '97', '98', '99'])

理論上，鍵的順序不應該是這樣的，應該是亂序。。。具體為什麼這樣，等以後明白瞭再補充

如果我們需要保存添加順序怎麼辦？python 標準庫的collections模塊提供瞭名為OrderedDicr的有序字典。

集合

集合是一種魯棒性很好的數據結構，當元素順序的重要性不如元素的唯一性和測試元素是否包含在集合中的效率時，大部分情況下這種數據結構極其有用。

python的內置集合類型有兩種：

set(): 一種可變的、無序的、有限的集合，其元素是唯一的、不可變的（可哈希的）對象。

frozenset(): 一種不可變的、可哈希的、無序的集合，其元素是唯一的，不可變的哈希對象。

set([set([1, 2, 3]), set([2, 3, 4])])

result:

Traceback (most recent call last):
 File "/pycharm_project/LearnPython/Part1/demo.py", line 1, in <module>
 set([set([1, 2, 3]), set([2, 3, 4])])
TypeError: unhashable type: 'set'

set([frozenset([1, 2, 3]), frozenset([2, 3, 4])])

result:不會報錯

set裡的元素必須是唯一的，不可變的。但是set是可變的，所以set作為set的元素會報錯。

實現細節

CPython中集合和字典非常相似。事實上，集合被實現為帶有空值的字典，隻有鍵才是實際的集合元素。此外，集合還利用這種沒有值的映射做瞭其它的優化。

由於這一點，可以快速的向集合中添加元素、刪除元素、檢查元素是否存在。平均時間復雜度為O(1),最壞的事件復雜度是O(n)。

以上為個人經驗，希望能給大傢一個參考，也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方，望不吝賜教。

推薦閱讀：

• python–字典(dict)和集合(set)詳解
• Python基礎之數據結構詳解
• Python 一篇文章看懂Python集合與字典數據類型
• 如何利用python實現詞頻統計功能
• Python數據容器dict(字典)的實現