python 常用的異步框架匯總整理

Posted on by

正文開始

asyncio 是 Python 3.4版本引入的標準庫，直接內置瞭對異步IO的支持。

asyncio 在單線程內部維護瞭 EventLoop 隊列，然後把需要執行異步IO的任務添加到 EventLoop 隊列中，至於任務的完成通過類似回調的邏輯是實現後續的任務。如果你有 JavaScript的基礎那麼理解python的 asyncio 很簡單，關鍵字、語法以及實現的原理都極其類似。

import asyncio

async def main():
    print('Hello ...')
    await asyncio.sleep(1)
    print('... World!')

# Python 3.7+
asyncio.run(main())

1. Tornado

Tornado 是一個Python web框架和異步網絡庫，起初由 FriendFeed 開發. 通過使用非阻塞網絡I/O， Tornado可以支撐上萬級的連接，處理 長連接, WebSockets ，和其他需要與每個用戶保持長久連接的應用。

下面貼上官方 demo ：

import tornado.ioloop
import tornado.web

class MainHandler(tornado.web.RequestHandler):
    def get(self):
        self.write("Hello, world")

def make_app():
    return tornado.web.Application([
        (r"/", MainHandler),
    ])

if __name__ == "__main__":
    app = make_app()
    app.listen(8888)
    tornado.ioloop.IOLoop.current().start()

2. Aiohttp

一個基於 asyncio 異步的web框架，支持 websocket,不需要寫回掉的代碼、有著豐富的生態、中間價等、開箱即用的服務端與客戶端。

下面貼上官方 demo ：

# 客服端代碼
import aiohttp
import asyncio

async def main():

    async with aiohttp.ClientSession() as session:
        async with session.get('http://python.org') as response:

            print("Status:", response.status)
            print("Content-type:", response.headers['content-type'])

            html = await response.text()
            print("Body:", html[:15], "...")

loop = asyncio.get_event_loop()
loop.run_until_complete(main())

# 服務端代碼
from aiohttp import web

async def handle(request):
    name = request.match_info.get('name', "Anonymous")
    text = "Hello, " + name
    return web.Response(text=text)

async def wshandle(request):
    ws = web.WebSocketResponse()
    await ws.prepare(request)

    async for msg in ws:
        if msg.type == web.WSMsgType.text:
            await ws.send_str("Hello, {}".format(msg.data))
        elif msg.type == web.WSMsgType.binary:
            await ws.send_bytes(msg.data)
        elif msg.type == web.WSMsgType.close:
            break

    return ws


app = web.Application()
app.add_routes([web.get('/', handle),
                web.get('/echo', wshandle),
                web.get('/{name}', handle)])

if __name__ == '__main__':
    web.run_app(app)

aiohttp的生態：

  • aiohttp-session 為 aiohttp 服務提供 sessions支持，同時支持數據持久化數據庫。
  • aiohttp-debugtoolbar 為 aiohttp 提供調試的工具（記錄 asyncio 異常的堆棧信息）。
  • aiohttp-security 為aiohttp提供認證以及權限相關的插件。
  • aiohttp-devtools aiohttp開發工具，提供開發環境的部署、靜態資源的代理。
  • aiohttp-cors CORS 跨域認證支持。
  • aiohttp-sse 服務端事件的支持（一種服務端推送消息的服務）。
  • pytest-aiohttp pytest 測試框架的支持。
  • aiohttp-mako Mako 服務端模板渲染的支持。
  • aiohttp-jinja2 Jinja2 服務端模板渲染的支持（大名鼎鼎的flask的渲染引擎）。
  • aiozipkin 分佈式系統中對服務追蹤，為微服務中延時問題提供數據支持。

aiohttp數據庫支持：

aiopg PostgreSQL異步支持。
aiomysql MySql 異步支持。
aioredis Redis 異步支持。
asyncpg 另外一個對 PostgreSQL 異步支持，比 aiopg 效率高，但是 api 不通用。

3.Sanic

Sanic 是一個 Python 3.7+ 的基於 asyncio 的 web 服務器和web框架，目標是提供一種簡單的方法來啟動和運行一個易於構建、擴展和終極性能HTTP服務器，是一個比較類似 falsk 的異步web框架。

To provide a simple way to get up and running a highly performant HTTP server that is easy to build, to expand, and ultimately to scale.

官方demo：

from sanic import Sanic
from sanic.response import json

app = Sanic("My Hello, world app")

@app.route('/')
async def test(request):
    return json({'hello': 'world'})

if __name__ == '__main__':
    app.run()

4. FastAPI

FastAPI 是一個用於構建API的高性能web框架，基於Python3.6+並支持標準的 Python 類型提示。同時是最快的 Python web框架之一，可與 NodeJS 和 Go 比肩（主要歸功於 Starlette 和 Pydantic）。

from typing import Optional

from fastapi import FastAPI

app = FastAPI()


@app.get("/")
def read_root():
    return {"Hello": "World"}


@app.get("/items/{item_id}")
def read_item(item_id: int, q: Optional[str] = None):
    return {"item_id": item_id, "q": q}

# 啟動 uvicorn main:app --reload
# pip install uvicorn[standard]

5. Ruia

一個基於asyncio和aiohttp的異步爬蟲框架，目標在於讓開發者編寫爬蟲盡可能地方便快速。國人開發中文文檔的支持，方便快速的構建爬蟲項目，自定義HTML解析工具，快速獲取頁面數據。

官方demo：

import asyncio

from ruia import Item, TextField, AttrField


class HackerNewsItem(Item):
    target_item = TextField(css_select='tr.athing')
    title = TextField(css_select='a.storylink')
    url = AttrField(css_select='a.storylink', attr='href')


async def test_item():
    url = 'https://news.ycombinator.com/news?p=1'
    async for item in HackerNewsItem.get_items(url=url):
        print('{}: {}'.format(item.title, item.url))


if __name__ == '__main__':
    # Python 3.7 Required.
    asyncio.run(test_item()) 

    # For Python 3.6
    # loop = asyncio.get_event_loop()
    # loop.run_until_complete(test_item())

總結

隨著 python 社區對異步支持的愈發友好，異步框架的生態也愈發完善。Tornado 是我第一個接觸到的一步框架，現如今伴隨著最快 python web 框架之爭，Tornado也漸漸跌落神壇。但是至於誰是最快的並不重要，重要的是生態，避免重復造輪子才是重要的。

PS：

  1. 我記得之前瞭解 Sanic 的時候它還是基於 aiohttp 開發的 web 框架，現如今已經重構瞭大部分代碼，核心組件也都自己實現。
  2. tornado 雖然語法過時瞭，但是應該是最成熟、最早以及文檔最多的一個異步框架。
  3. 之前用tornado的時候還需要造關於異步操作的輪子，現如今生態日趨完善。

最後如果你想使用異步的框架，那麼記得所有的IO操作均需要異步操作實現，否則會大大影響性能。 （比如第三方的短信服務不能直接使用同步代碼的sdk ）

參考資料

Aiohttp docs

Sanic 中文

Uvloop

Tornado 中文

以上就是python 常用的異步框架匯總整理的詳細內容，更多關於python異步框架匯總的資料請關註WalkonNet其它相關文章！

推薦閱讀：