簡單談談Python中的模塊導入

本文不討論 Python 的導入機制(底層實現細節),僅討論模塊與包,以及導入語句相關的概念。通常,導入模塊都是使用如下語句:

import ...
import ... as ...
from ... import ...
from ... import ... as ...

一般情況下,使用以上語句導入模塊已經夠用的。但是在一些特殊場景中,可能還需要其他的導入方式。例如 Python 還提供瞭 __import__ 內建函數和 importlib 模塊來實現動態導入。動態導入的好處是可以延遲模塊的加載,僅在用到模塊時才支持導入動作。

運用 __import__ 函數和 importlib 模塊固然能夠實現模塊的延遲加載,但其不足之處是,在任何需要用到指定模塊的地方都要實現一遍同樣的導入語句,這樣是不便於維護且非常麻煩的。如果能夠在頂層實現惰性導入,則是一個更好的選擇,這也是本文最終要討論的點。

在討論一些高級用法之前,首先需要瞭解一下模塊與包的概念。

模塊與包

模塊 可以理解為是 Python 可以加載並執行的代碼文件,代碼文件不僅可以是 .py 文件,還可以是 .so 等其他類型的文件。Python 隻有一個 模塊 對象型態,而且所有模塊都是這個型態。為瞭便於組織多個模塊並提供一個模塊層次結構的命名,Python 提供瞭 包 的概念。

可以簡單的將包看作是一個文件系統的目錄,將模塊看作是目錄中的代碼文件(註意,不能完全地這樣認為,因為包和模塊並非僅來自文件系統,還可以來自壓縮文件、網絡等)。類似於文件系統的目錄結構,包被分級組織起來,而且包本身也可以包含子包和常規模塊。

包其實可以看作是一種特殊的模塊。例如常規包(下面會介紹常規包的概念)的目錄中需要包含 __init__.py 文件,當包被導入時,該文件的頂層代碼被隱式執行,就如同模塊導入時頂層代碼被執行,該文件就像是包的代碼一樣。所以 包是一種特殊的模塊。需要記住的是,所有的包都是模塊,但不是所有的模塊都是包。包中子包和模塊都有 __path__ 屬性,具體地說,任何包含 __path__ 屬性的模塊被認為是包。所有的模塊都有一個名稱,類似於標準屬性訪問語法,子包與他們父包的名字之間用點隔開。

Python 定義瞭兩種類型的包,即 常規包 和 命名空間包。常規包是存在於 Python 3.2 及更早版本中的傳統包。常規包即包含 __init__.py 文件的目錄。當導入一個常規包時,__init__.py 文件被隱式執行,而且它定義的對象被綁定到包命名空間中的名稱。 __init__.py 文件能包含其他任何模塊能夠包含的相同的 Python 代碼,而且在導入時,Python 將給模塊增加一些額外的屬性。

從 Python 3.3 開始,Python 引入瞭 命名空間包 的概念。命名空間包是不同文件集的復合,每個文件集給父包貢獻一個子包,所有的包中都不需要包含 __init__.py 文件。文件集可以存於文件系統的不同位置。文件集的查找包含導入過程中 Python 搜索的壓縮文件,網絡或者其他地方。命名空間包可以但也可以不與文件系統的對象直接對應,它們可以是真實的模塊但沒有具體的表述。更新關於命名空間包的說明可以參考 PEP 420。

命名空間包的 __path__ 屬性與常規包不同,其使用自定義的迭代器類型,遍歷所有包含該命令空間包的路徑。如果他們父包的路徑(或者高階包的 sys.path )改變,它將在下次試圖導入時在該包中自動重新搜索包部分。

如有如下目錄結構:

.
├── bar-package
│   └── nsp
│       └── bar.py
└── foo-package
    └── nsp
        └── foo.py

則 nsp 即可以是一個命名空間包,以下是測試代碼(記得用 Python 3.3 及更高版本運行測試):

import sys
sys.path.extend(['foo-package', 'bar-package'])

import nsp
import nsp.bar
import nsp.foo

print(nsp.__path__)

# 輸出:
# _NamespacePath(['foo-package/nsp', 'bar-package/nsp'])

命名空間包具有如下特性:

1、優先級最低,在已有版本所有的 import 規則之後

2、包中不必再包含 __init__.py 文件

3、可以導入並組織目錄分散的代碼

4、依賴於 sys.path 中從左到右的搜索順序

__import__

__import__ 函數可用於導入模塊,import 語句也會調用函數。其定義為:

__import__(name[, globals[, locals[, fromlist[, level]]]])

參數介紹:

  • name (required): 被加載 module 的名稱
  • globals (optional): 包含全局變量的字典,該選項很少使用,采用默認值 global()
  • locals (optional): 包含局部變量的字典,內部標準實現未用到該變量,采用默認值 – local()
  • fromlist (Optional): 被導入的 submodule 名稱
  • level (Optional): 導入路徑選項,Python 2 中默認為 -1,表示同時支持 absolute import 和 relative import。Python 3 中默認為 0,表示僅支持 absolute import。如果大於 0,則表示相對導入的父目錄的級數,即 1 類似於 ‘.’,2 類似於 ‘..’。

使用示例:

# import spam
spam = __import__('spam')

# import spam.ham
spam = __import__('spam.ham')

# from spam.ham import eggs, sausage as saus
_temp = __import__('spam.ham', fromlist=['eggs', 'sausage'])
eggs = _temp.eggs
saus = _temp.sausage

模塊緩存

在執行模塊導入時,Python 的導入系統會首先嘗試從 sys.modules 查找。sys.modules 中是所有已導入模塊的一個緩存,包括中間路徑。即,假如 foo.bar.baz 被導入,那麼,sys.modules 將包含進入 foo,foo.bar 和 foo.bar.baz 模塊的緩存。其實一個 dict 類型,每個鍵都有自己的值,對應相應的模塊對象。

導入過程中,首先在 sys.modules 中查找模塊名稱,如果存在,則返回該模塊並結束導入過程。如果未找到模塊名稱,Python 將繼續搜索模塊(從 sys.path 中查找並加載)。sys.modules 是可寫的,刪除一個鍵會使指定模塊的緩存實現,下次導入時又將重新搜索指定的模塊,這類似於模塊的 reload。

需要註意的是,如果保持模塊對象引用,並使 sys.modules 中緩存失效,然後再重新導入指定的模塊,則這兩個模塊對象是不相同的。而相比之下,importlib.reload() 重新加載模塊時,會使用相同的模塊對象,並通過重新運行模塊代碼簡單地重新初始化模塊內容。

imp 與 importlib 模塊

imp 模塊提供瞭一些 import 語句內部實現的接口。例如模塊查找(find_module)、模塊加載(load_module)等等(模塊的導入過程會包含模塊查找、加載、緩存等步驟)。可以用該模塊來簡單實現內建的 __import__ 函數功能:

import imp
import sys

def __import__(name, globals=None, locals=None, fromlist=None):
    # 首先從緩存中查找
    try:
        return sys.modules[name]
    except KeyError:
        pass

    # 如果模塊緩存中沒有,則開始從 sys.path 中查找模塊
    fp, pathname, description = imp.find_module(name)

    # 如何找到模塊則將其載入
    try:
        return imp.load_module(name, fp, pathname, description)
    finally:
        if fp:
            fp.close()

importlib 模塊在 python 2.7 被創建,並且僅包含一個函數:

importlib.import_module(name, package=None)

這個函數是對 __import__ 的封裝,以用於更加便捷的動態導入模塊。例如用其實現相對導入:

import importlib

# 類似於 'from . import b'
b = importlib.import_module('.b', __package__)

從 python 3 開始,內建的 reload 函數被移到瞭 imp 模塊中。而從 Python 3.4 開始,imp 模塊被否決,不再建議使用,其包含的功能被移到瞭 importlib 模塊下。即從 Python 3.4 開始,importlib 模塊是之前 imp 模塊和 importlib 模塊的合集。

惰性導入

前邊介紹的大部分內容都是為實現惰性導入做鋪墊,其他的小部分內容僅是延伸而已(就是隨便多介紹瞭點內容)。惰性導入即延遲模塊導入,在真正用到模塊時才執行模塊的導入動作,如果模塊不被使用則導入動作永遠不會發生。

惰性導入的需求還是很常見的。一般推薦模塊僅在頂層導入,而有時候在頂層導入模塊並非最好的選擇。比如,一個模塊僅在一個函數或者類方法中用到時,則可使用局部導入(在局部作用域中執行導入),使得僅在函數或方法被執行時才導入模塊,這樣可以避免在頂層名字空間中引入模塊變量。再比如,在我工作所負責的項目中,需要用到 pandas 包,而 pandas 包導入瞭會占用一些內存(不是很多,但也不算少,幾十兆的樣子),所以當不會用到 pandas 包時,我們希望他不被導入。我們自己實現的一些包在載入時會很耗時(因為要讀取配置等等,在導入時就會耗時幾秒到十幾秒的樣子),所以也極其需要惰性導入的特性。

下面是惰性導入的簡單實現,可供參考:

import sys
from types import ModuleType


class LazyModuleType(ModuleType):

    @property
    def _mod(self):
        name = super(LazyModuleType, self).__getattribute__("__name__")
        if name not in sys.modules:
            __import__(name)
        return sys.modules[name]

    def __getattribute__(self, name):
        if name == "_mod":
            return super(LazyModuleType, self).__getattribute__(name)

        try:
            return self._mod.__getattribute__(name)
        except AttributeError:
            return super(LazyModuleType, self).__getattribute__(name)

    def __setattr__(self, name, value):
        self._mod.__setattr__(name, value)


def lazy_import(name, package=None):
    if name.startswith('.'):
        if not package:
            raise TypeError("relative imports require the 'package' argument")
        level = 0
        for character in name:
            if character != '.':
                break
            level += 1

        if not hasattr(package, 'rindex'):
            raise ValueError("'package' not set to a string")
        dot = len(package)
        for _ in range(level, 1, -1):
            try:
                dot = package.rindex('.', 0, dot)
            except ValueError:
                raise ValueError("attempted relative import beyond top-level "
                                 "package")

        name = "{}.{}".format(package[:dot], name[level:])

    return LazyModuleType(name)

總結

到此這篇關於Python中模塊導入的文章就介紹到這瞭,更多相關Python模塊導入內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!

參考資料

  • https://docs.python.org/3/reference/import.html
  • https://github.com/nipy/nitime
  • https://github.com/mnmelo/lazy_import

推薦閱讀: