MySQL的Query Cache圖文詳解
一、原理概述
Query Cache就是把“查詢返回的結果”緩存起來。但是,僅僅隻是緩存“查詢返回的結果”,其實是不準確的,Query Cache還會緩存查詢語句,在內存中將“查詢語句”和“查詢返回的結果”映射起來。
當MySQL接收到一條SELECT類型的查詢語句時,MySQL會對這條查詢語句進行hash計算而得到一個hash值。然後,通過該hash值到Query Cache中去匹配。如果沒有得到匹配結果,則會將這個hash值存放在一個hash鏈表中,同時將此次查詢的結果存放至緩存中。存放hash值的鏈表的每個節點都會存放相應查詢返回結果在緩存中的地址,以及該次查詢所涉及到的一些表的相關信息。如果通過hash值匹配到相同的查詢,則會直接將緩存中相應的查詢結果返回給客戶端。如果MySQL的任何一張表中的任何一條數據發生瞭變化,便會通知Query Cache,將和這張表相關的查詢緩存全部失效,並釋放占用的內存空間。修改表數據的操作包括:INSERT、UPDATE、DELETE、TRUNCATE、ALTER TABLE、DROP TABLE和DROP DATABASE等等。
Query Cache的工作原則是:執行查詢最快的方式就是不去執行。Query Cache的組件圖和流程圖如下所示:
二、Query Cache系統變量
Query Cache的主要可配置系統變量如下所示:
1. have_query_cache
表示mysqld是否支持Query Cache。
2. query_cache_limit
表示Query Cache可以緩存的單條查詢的最大結果集的大小,默認值為1MB。如果某次查詢的結果集大小超過這個系統變量的值,那麼Query Cache就不會緩存這次查詢的結果集。
3. query_cache_min_res_unit
表示MySQL為Query Cache每次分配內存的最小空間大小,也就是用於緩存查詢結果的最小內存空間的大小,默認值為4KB。
4. query_cache_size
表示Query Cache可以使用的最大內存空間的大小,默認值為1MB。設置的值必須是1024的整數倍,若不是整數倍,MySQL則會自動調整降低至達到1024倍數的最大值。
5. query_cache_type
表示Query Cache的工作模式,同時也是Query Cache功能的開關,可以設置為0(OFF)、1(ON)和2(DEMAND)三種值:
-
0(OFF):關閉Query Cache功能,任何情況下都不會使用Query Cache。
-
1(ON):開啟Query Cache功能,但是當SELECT語句中使用瞭SQL_NO_CACHE選項之後,將不會使用Query Cache。
-
2(DEMAND):開啟Query Cache功能,但是隻有當SELECT語句中使用瞭SQL_CACHE選項之後,才會使用Query Cache。
6. query_cache_wlock_invalidate
控制當有寫鎖加在表上的時候,是否先讓該表相關的Query Cahce失效,具有1(ON)和0(OFF)兩種取值:
-
1(ON):在寫鎖定的同時將使該表相關的所有Query Cache失效。
-
0(OFF):在寫鎖定的同時仍然允許讀取該表相關的Query Cache。
以上環境變量經常需要調整的是query_cache_limit和query_cache_min_res_unit,它們都需要根據實際業務進行相應的調整。例如,如果緩存的查詢結果集大多數都小於4KB的話,則可以適當的調整query_cache_min_res_unit的值,以避免造成內存的浪費。如果查詢結果集的大小又都大於1MB時,就需要調整query_cache_limit的值,避免因為結果集大小超過限制而不被緩存。
三、Query Cache狀態變量
MySQL提供一系列的狀態變量來記錄Query Cache的當前狀態,使你能夠確認Query Cache的運行是否健康、命中率如何、內存空間大小是否足夠,等等。Query Cache的狀態變量如下所示:
1. Qcache_free_blocks
表示Query Cache中目前還有多少空閑的內存塊。如果該值比較大,則說明Query Cache中的內存碎片可能比較多。FLUSH QUERY CACHE會對緩存中的碎片進行整理,從而得到一個較大的空閑內存塊。
2. Qcache_free_memory
表示Query Cache目前空閑的內存大小。
3. Qcache_hits
表示有多少次查詢在Query Cache命中。
4. Qcache_inserts
向Query Cache中插入新記錄的次數,也就是查詢沒有命中的次數。
5. Qcache_lowmem_prunes
表示由於Query Cache的內存不足而從緩存中刪除的查詢結果的數量。如果這個數值在不斷增長,那麼一般是Query Cache的空閑內存不足(通過Qcache_free_memory判斷),或者內存碎片較嚴重(通過Qcache_free_blocks判斷)。
6. Qcache_not_cached
表示沒有被緩存的查詢數量。有三種情況會導致查詢結果不會被緩存:其一,由於query_cache_type的設置;其二,查詢不是SELECT語句;其三,使用瞭now()之類的函數,導致查詢語句一直在變化。
7. Qcache_queries_in_cache
表示Query Cache中當前包含的查詢結果數量。
8. Qcache_total_blocks
表示Query Cache中的內存塊總數量。
四、優點與缺點
1. 優點
Query Cache的查詢,發生在MySQL接收到客戶端的查詢請求、查詢權限驗證之後和查詢SQL解析之前。也就是說,當MySQL接收到客戶端的查詢SQL之後,僅僅隻需要對其進行相應的權限驗證之後,就會通過Query Cache來查找結果,甚至都不需要經過Optimizer模塊進行執行計劃的分析優化,更不需要發生任何存儲引擎的交互。由於Query Cache是基於內存的,直接從內存中返回相應的查詢結果,因此減少瞭大量的磁盤I/O和CPU計算,導致效率非常高。
2. 缺點
即使Query Cache的優點很明顯,但是也不能忽略它所帶來的一些缺點:
-
查詢語句的hash計算和hash查找帶來的資源消耗。如果將query_cache_type設置為1(也就是ON),那麼MySQL會對每條接收到的SELECT類型的查詢進行hash計算,然後查找這個查詢的緩存結果是否存在。雖然hash計算和查找的效率已經足夠高瞭,一條查詢語句所帶來的開銷可以忽略,但一旦涉及到高並發,有成千上萬條查詢語句時,hash計算和查找所帶來的開銷就必須重視瞭。
-
Query Cache的失效問題。如果表的變更比較頻繁,則會造成Query Cache的失效率非常高。表的變更不僅僅指表中的數據發生變化,還包括表結構或者索引的任何變化。
-
查詢語句不同,但查詢結果相同的查詢都會被緩存,這樣便會造成內存資源的過度消耗。查詢語句的字符大小寫、空格或者註釋的不同,Query Cache都會認為是不同的查詢(因為他們的hash值會不同)。
-
相關系統變量設置不合理會造成大量的內存碎片,這樣便會導致Query Cache頻繁清理內存。
五、常見問答
1. 應當在什麼條件下使用Query Cache?
實際上,並不是所有表都適合使用Query Cache。造成Query Cache失效的原因主要是相應的表發生瞭變更,那麼就應該避免在變更頻繁的表上使用Query Cache。MySQL針對Query Cache有兩個專用的SQL選項:SQL_NO_CACHE和SQL_CACHE。若將query_cache_type設置為1(ON),那麼通過SQL_NO_CACHE選項便能強制不使用Query Cache;若將query_cache_type設置為2(DEMAND),那麼通過SQL_CACHE選項便能強制使用Query Cache。通過強制不使用Query Cache,可以讓MySQL在頻繁變更的表上不使用Query Cache,這樣減少瞭內存開銷,也減少瞭hash計算和查找的開銷。
2. Query Cache與查詢語句有什麼關系?
無論MySQL收到的查詢語句是單表還是多表或是包含子查詢的SQL,都被作為一個查詢,不會被分拆成多個查詢來進行緩存,包括Union語句。
3. 客戶端提交的查詢語句的大小寫對Query Cache有影響嗎?
有影響。由於Query Cache在內存中是以hash結構來進行映射的,hash算法的基礎就是組成查詢語句的字符,所以必須要整個查詢語句在字符級別完全一致,才能在Query Cache中命中。
4. 一個查詢語句在Query Cache中緩存的查詢結果,在什麼情況下會失效?
為瞭保證Query Cache中的內容與是實際數據絕對一致,當表中的數據有任何變化,包括新增、修改、刪除等,都會使所有引用到該表的Query Cache緩存數據失效。
5. Query Cache碎片率是什麼?有什麼用?
Query Cache碎片率 = Qcache_free_blocks / Qcache_total_blocks * 100%
如果Query Cache碎片率超過20%,則可以用FLUSH QUERY CACHE整理內存碎片;如果你的查詢都是小數據量的話,可以嘗試減小query_cache_min_res_unit。
6. Query Cache利用率是什麼?有什麼用?
Query Cache利用率 = (query_cache_size – Qcache_free_memory) / query_cache_size * 100%
Query Cache利用率在25%以下的話,說明query_cache_size設置的過大,可適當減小;Query Cache利用率在80%以上,而且Qcache_lowmem_prunes > 50的話,說明query_cache_size可能有點小,或者就是內存碎片太多。
7. Query Cache命中率是什麼?有什麼用?
① 可緩存查詢的Query Cache命中率 = Qcache_hits / (Qcache_hits + Qcache_inserts) * 100%
② 涵蓋所有查詢的Query Cache命中率 = Qcache_hits / (Qcache_hits + Com_select) * 100%
若命中率在50-70%的范圍之內,則表明Query Cache的緩存效率較高。如果命中率明顯小於50%,那麼建議禁用(將query_cache_type設置為0(OFF))或按需使用(將query_cache_type設置為2(DEMAND))Query Cache,節省的內存可以用作InnoDB的緩沖池。
8. 如何判斷Query Cache是空閑內存不足,還是內存碎片太多?
如果Qcache_lowmem_prunes值比較大,表示Query Cache的內存空間大小設置太小,需要增大。
如果Qcache_free_blocks值比較大,表示內存碎片較多,需要使用FLUSH QUERY CACHE語句清理內存碎片。
9. 系統變量query_cache_min_res_unit應當設置為多大?
query_cache_min_res_unit的計算公式如下所示:
query_cache_min_res_unit = (query_cache_size – Qcache_free_memory) / Qcache_queries_in_cache
其中,一般不建議將Query Cache的大小(也就是query_cache_size系統變量)設置超過256MB。
Mysql查詢緩存Query_cache的功用
MySQL的查詢緩存並非緩存執行計劃,而是查詢及其結果集,這就意味著隻有相同的查詢操作才能命中緩存,因此MySQL的查詢緩存命中率很低,另一方面,對於大結果集的查詢,其查詢結果可以從cache中直接讀取,有效的提升瞭查詢效率。
那麼如何設置緩存的大小呢?來看一下:
1、在mysql客戶端命令行中我們可以這麼查看緩存是否開啟以及緩存設置的大小:
mysql> show variables like '%query_cache%'; +------------------------------+-------------+ | Variable_name | Value | +------------------------------+-------------+ | have_query_cache | YES | | query_cache_limit | 1048576 | | query_cache_min_res_unit | 4096 | | query_cache_size | 16106127360 | | query_cache_type | ON | | query_cache_wlock_invalidate | OFF | +------------------------------+-------------+ 6 rows in set (0.01 sec)
其中:
query_cache_type: 是否開啟緩存功能,取值為ON, OFF, DEMAND,默認值為ON
- 值為OFF或0時,查詢緩存功能關閉;
- 值為ON或1時,查詢緩存功能打開,SELECT的結果符合緩存條件即會緩存,否則,不予緩存,顯式指定SQL_NO_CACHE,不予緩存;
- 值為DEMAND或2時,查詢緩存功能按需進行,顯式指定SQL_CACHE的SELECT語句才會緩存;其它均不予緩存
query_cache_wlock_invalidate:表示當有其他客戶端正在對MyISAM表進行寫操作時,如果查詢在query cache中,是否返回cache結果還是等寫操作完成再讀表獲取結果。
query_cache_limit 指定單個查詢能夠使用的緩沖區大小,缺省為1M;
query_cache_min_res_unit為系統分配的最小緩存塊大小,默認是4KB,設置值大對大數據查詢有好處,但如果你的查詢都是小數據查詢,就容易造成內存碎片和浪費;query_cache_size:表示緩存的大小。
瞭解瞭以上的指標後我們就可以在mysql的配置文件my.cnf中進行設置。然後重啟mysl服務器即可。在[mysqld]下面添加參數。一般是設置query_cache_size和query_cache_type兩項。
2、上面查看的是我們進行緩存的配置,它一般從配置文件中讀取值,但是有時候我們需要實時查看當前mysql中的數據緩存大小。
mysql> show status like '%qcache%'; +-------------------------+----------+ | Variable_name | Value | +-------------------------+----------+ | Qcache_free_blocks | 1 | | Qcache_free_memory | 1031832 | | Qcache_hits | 0 | | Qcache_inserts | 0 | | Qcache_lowmem_prunes | 0 | | Qcache_not_cached | 16489053 | | Qcache_queries_in_cache | 0 | | Qcache_total_blocks | 1 | +-------------------------+----------+ 8 rows in set (0.00 sec)
解釋:
Qcache_free_memory:緩存中的空閑內存。
Qcache_total_blocks:緩存中塊的數量。
Qcache_lowmem_prunes:緩存出現內存不足並且必須要進行清理以便為更多查詢提供空間的次數。這個數字最好長時間來看;如果這個 數字在不斷增長,就表示可能碎片非常嚴重,或者內存很少。如何確定就需要查看Qcache_free_blocks和Qcache_free_memory 兩項指標。
3、清空緩存:
flush query cache命令
加大緩存有助於我們查詢的效率提高:
這裡舉個例子:
mysql> use mob_adn Database changed mysql> select count(*) from creative_output; +----------+ | count(*) | +----------+ | 87151154 | +----------+ 1 row in set (3 min 18.29 sec) mysql> select count(*) from creative_output; +----------+ | count(*) | +----------+ | 87151154 | +----------+ 1 row in set (0.00 sec) mysql> select count(*) from creative_output; +----------+ | count(*) | +----------+ | 87151154 | +----------+ 1 row in set (0.00 sec)
可以看到緩存真的很厲害。
還有的同學會想到innodb_buffer_pool這個參數,兩者的作用與區別我會接著來講。
順便這裡在講解一下SQL幾項優化(很好):
https://www.cnblogs.com/L-dongf/p/9163848.html
到此這篇關於MySQL的Query Cache圖文詳解的文章就介紹到這瞭,更多相關MySQL Query Cache內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- 詳解mysql查詢緩存簡單使用
- MySQL query_cache_type 參數與使用詳解
- mysql優化之query_cache_limit參數說明
- 如何在mysql進行查詢緩存及失敗的解決方法
- 瞭解MySQL查詢語句執行過程(5大組件)