SQL查詢語句執行的過程

SQL語句舉例:

SELECT * FROM `test` WHERE `id`=1;

當我們輸入一條SQL語句,返回一個結果時,那這條語句在 MySQL 內部的執行過程是怎麼的呢?

MySQL基本架構

下面給出的是 MySQL 的基本架構示意圖(圖片來自網絡),從下圖中我們可以比較清楚地看到 SQL 語句在 MySQL 的各個功能模塊中的執行過程。

從上圖直觀的來看,MySQL 可分為 Server 層存儲引擎層兩部分。

Server 層包括 連接器查詢緩存分析器優化器執行器等,涵蓋 MySQL 的大多數核心服務功能,以及所有的內置函數(如日期時間函數、字符串函數、數學函數和加密函數等),所有跨存儲引擎的功能都在這一層實現,比如存儲過程觸發器視圖等。

儲引擎層負責數據的存儲提取。其架構模式是插件式的,支持 InnoDB、MyISAM、Memory 等多個存儲引擎。現在最常用的存儲引擎是 InnoDB,它從 MySQL 5.5.5 版本開始成為瞭默認存儲引擎。當執行 ·create table · 建表的時候,如果不指定引擎類型,默認使用的就是 InnoDB指。在 create table 語句中使用 engine=memory, 來指定使用內存引擎創建表。不同存儲引擎的表數據存取方式不同,支持的功能也不同,在後面的文章中再來討論引擎的知識。

從上圖中可以看出,不同的存儲引擎共用一個Server 層,也就是從連接器到執行器的部分。下面來看下每個組件的作用。

Server 層

1、連接器

使用數據庫的第一步就是先連接到這個數據庫上,這時候作為接待的就是連接器。連接器負責跟客戶端建立連接獲取權限維持和管理連接

連接命令:

mysql mysql -h主機地址 -u用戶名 -p

輸完命令之後,你就需要在交互對話裡面輸入密碼。雖然密碼也可以直接跟在 -p 後面寫在命令行中,但這樣可能會導致你的密碼泄露,不建議直接跟著輸入。

下圖為我的電腦操作(mac+ mamp):

如果輸入賬號或密碼錯誤會提示(1045):

ERROR 1045 (28000): Access denied for user 'root'@'localhost' (using password: YES)

截圖如下:

當用戶名密碼認證通過後,連接器會到權限表裡面查出你擁有的權限。之後,這個連接裡面的權限判斷邏輯,都將依賴於此次登陸讀到的權限。

連接成功截圖:

從上圖我們可以看到一些關MySQL的版本號信息(Server version: 5.7.23 MySQL Community Server (GPL) )。

當用戶成功建立連接後,即使你用管理員賬號對這個用戶的權限做瞭修改,也不會影響已經存在連接的權限。修改完成後,隻有再新建的連接才會使用新的權限設置。

連接完成後,如果你沒有後續的動作,這個連接就處於空閑狀態,可以通過 show processlist; 命令中看到它。下圖是 show processlist 的結果。

其中,當 Command 列有顯示為“Sleep”的這一行,就表示現在系統裡面有一個空閑連接。

客戶端如果太久沒動靜,連接器會自動將它斷開。這個時間是由參數 wait_timeout控制,默認值是8小時。

查看默認連接超時時長:

show variables like 'wait_timeout';

可以使用命名來修改這個參數值:

set wait_timeout =28801; // 自定義時長

結果如下:

如果在連接被斷開之後,客戶端再次發送請求時,就會收到一個錯誤提醒: Lost connection to MySQL server during query。這時如果你要繼續執行,則需要重連接,再執行請求。

數據庫裡面,長連接是指連接成功後,如果客戶端持續有請求,則一直使用同一個連接。短連接則是指每次執行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個。

建立連接的過程通常比較復雜,建議在使用中要盡量減少建立連接的動作,也就是盡量使用長連接。

如果全部使用長連接後,有時 MySQL 占用大量內存,這是因為 MySQL 在執行過程中臨時使用的內存是管理在連接對象裡面的。這些連接資源隻在連接斷開的時候才釋放。如果長連接長期累積,可能導致內存占用太大,被系統強行殺掉,則導致MySQL 異常重啟。

怎麼解決這個問題呢?

定期斷開長連接。使用一段時間後,或程序裡面判斷執行過一個占用內存的大查詢後,斷開連接,之後要查詢時再重新連接。

如果是 MySQL 5.7 或更新版本,可以在每次執行一個比較大的操作後,通過執行 mysql_reset_connection 來重新初始化連接資源。這個過程不需要重連和重新做權限驗證,但是會將連接恢復到剛剛創建完時的狀態。

2、查詢緩存

連接建立完成後,就可以執行 select 語句瞭。執行邏輯就會來到第二步:查詢緩存。

MySQL 拿到一個查詢請求後,先到查詢緩存看之前是否執行過這條語句。之前執行過的語句及其結果可能會以 key-value 對的形式,被直接緩存在內存中。key 是查詢的語句,value 是查詢的結果。如果你的查詢能夠直接在這個緩存中找到 key,那麼這個 value 就會被直接返回給客戶端。

如果語句不在查詢緩存中,就會繼續後面的執行階段。執行完成後,執行結果會被存入查詢緩存中。如果查詢命中緩存,MySQL 不需要執行後面的復雜操作,就可以直接返回結果,這個效率會很高。

但是大多數情況下我會建議你不要使用查詢緩存,因為查詢緩存往往弊大於利。

查詢緩存的失效非常頻繁,隻要有對一個表的更新,這個表上所有的查詢緩存都會被清空。因此很可能你費勁地把結果存起來,還未使用,就被一個更新全更新瞭。對於更新壓力大的數據庫來說,查詢緩存的命中率會非常低。如果有一張很長時間才會更新一次靜態表,那這張表上的查詢才適合使用查詢緩存。

好在 MySQL 也提供瞭這種“按需使用”的方式。你可以將參數 query_cache_type 設置成 DEMAND,這樣對於默認的 SQL 語句都不使用查詢緩存。而對於你確定要使用查詢緩存的語句,可以用 SQL_CACHE 顯式指定,如下面語句:

mysql> SELECT SQL_CACHE * FROM `test` WHERE id=1;

需要註意的是,MySQL 8.0 版本直接將查詢緩存的整塊功能刪掉瞭,也就是說 8.0 開始徹底沒有這個功能瞭。

3、分析器

如果沒有命中查詢緩存,就要開始真正執行語句瞭。首先,MySQL 需要知道你要做什麼,因此需要對 SQL 語句做解析。

分析器先會做“詞法分析”。你輸入的是由多個字符串和空格組成的一條 SQL 語句,MySQL 需要識別出裡面的字符串分別是什麼,代表什麼。

SQL語句舉例:

SELECT * FROM `test` WHERE id=1;

MySQL 從你輸入的"SELECT"這個關鍵字識別出來,這是一個查詢語句。它也要把字符串“”test"識別成"表名 test",把字符串“id”識別成“列 id”。

識別完後,就要做“語法分析”。根據詞法分析的結果,語法分析器會根據語法規則,判斷你輸入的這個 SQL 語句是否滿足 MySQL 語法。

如果你的語句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下面這個語句 where 多打瞭個字符“1”。

mysql> SELECT SQL_CACHE * FROM `test` WHERE1 id=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'id=1' at line 1

一般語法錯誤會提示第一個出現錯誤的位置,所以你要關註的是“use near” 附件的內容。

如圖所示: 

分析器,構造一棵解析樹(內部數據結構),整棵樹隻確保沒有語法錯誤(語法分析),比如檢查標識符是否有效、語句是否閉合。也包括重寫查詢、決定表的讀取順序、選擇合適的索引等。

4、優化器

經過分析器,MySQL 就知道你要做什麼瞭。在開始執行之前,還要先經過優化器的處理。

優化器是在表裡面有多個索引的時候,決定使用哪個索引;或者在一個語句有多表關聯(join)的時候,決定各個表的連接順序。比如你執行下面這樣的語句,這個語句是執行兩個表的 join:

mysql> SELECT * FROM `test1`  JOIN `test2` USING(id)  WHERE  test1.a=1 AND test2.t=2;

既可以先從表 test1 裡面取出 a=1 的記錄的 ID 值,再根據 ID 值關聯到表 test2,再判斷 t2 裡面 t 的值是否等於 2。 也可以先從表 test2 裡面取出 t=2 的記錄的 ID 值,再根據 ID 值關聯到 test1,再判斷 test1 裡面 a 的值是否等於 1。 這兩種執行方法的邏輯結果一樣,但是執行的效率會有不同,優化器的作用就是決定選擇使用哪一個方案。

優化器階段完成後,這個語句的執行方案就確定下來瞭,然後進入執行器階段。至於優化器是怎麼選擇索引的,在後面的文章中會單獨整理關於優化器的內容。

5、執行器

MySQL 通過分析器知道瞭你要做什麼,通過優化器知道瞭該怎麼做,於是就進入瞭執行器階段,開始執行語句。

開始執行的時候,要先判斷一下你對這個表 T 有沒有執行查詢的權限,如果沒有,就會返回沒有權限的錯誤,如下所示 (在工程實現上,如果命中查詢緩存,會在查詢緩存返回結果的時候,做權限驗證。查詢也會在優化器之前調用 precheck 驗證權限)。

mysql> SELECT * FROM `test` WHERE id=1;

比如我們這個例子中的表 test 中,id 字段沒有索引,那麼執行器的執行流程是這樣的:

  • (1)、調用 InnoDB 引擎接口取這個表的第一行,判斷 ID 值是不是 1,如果不是則跳過,如果是則將這行存在結果集中;
  • (2)、調用引擎接口取“下一行”,重復相同的判斷邏輯,直到取到這個表的最後一行。
  • (3)、執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客戶端。

至此,這個語句執行完成。

對於有索引的表,執行的邏輯也差不多。第一次調用的是“取滿足條件的第一行”這個接口,之後循環取“滿足條件的下一行”這個接口,這些接口都是引擎中已經定義好的。

你會在數據庫的慢查詢日志中看到一個 rows_examined 的字段,表示這個語句執行過程中掃描瞭多少行。這個值就是在執行器每次調用引擎獲取數據行的時候累加的。

有些場景下,執行器調用一次,引擎內部則掃描瞭多行,因此,引擎掃描行數和rows_examined 並不完全相同。後面會在整理存儲引擎的內部機制中說明補充。

到此這篇關於SQL查詢語句執行的過程的文章就介紹到這瞭,更多相關SQL查詢語句內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!

推薦閱讀: