為什麼MySQL分頁用limit會越來越慢

阿牛新入職瞭一傢新公司,第一個任務是根據條件導出訂單表中的數據到文件中,阿牛心想:這也太簡單瞭,於是很快寫好瞭如下語句,並且告訴測試自己的代碼是免測產品。

語句如下:

select * from orders where name=‘lilei' and create_time>'2020-01-01 00:00:00' limit start,end

沒想到上線一段時間後,生產開始預警,顯示這條sql為慢SQL,執行時間50多秒,嚴重影響到瞭業務。
阿牛趕緊請教大佬猿猿幫忙查找原因,猿猿很快就幫其解決瞭,並且給阿牛做瞭以下實驗:

一、測試實驗

mysql分頁直接用limit start, count分頁語句:

select * from product limit start, count

當起始頁較小時,查詢沒有性能問題,我們分別看下從10, 100, 1000, 10000開始分頁的執行時間(每頁取20條),如下:

select * from product limit 10, 20 0.016秒
select * from product limit 100, 20 0.016秒
select * from product limit 1000, 20 0.047秒
select * from product limit 10000, 20 0.094秒

我們已經看出隨著起始記錄的增加,時間也隨著增大, 這說明分頁語句limit跟起始頁碼是有很大關系的,
那麼我們把起始記錄改為40w看下(也就是記錄的一半左右)

select * from product limit 400000, 20 3.229秒

再看我們獲取最後一頁記錄的時間

select * from product limit 866613, 20 37.44秒

像這種分頁最大的頁碼頁顯然這種時間是無法忍受的。
從中我們也能總結出兩件事情:
limit語句的查詢時間與起始記錄的位置成正比。
mysql的limit語句是很方便,但是對記錄很多的表並不適合直接使用。

二、 對limit分頁問題的性能優化方法

2.1 利用表的覆蓋索引來加速分頁查詢

我們都知道,利用瞭索引查詢的語句中如果隻包含瞭那個索引列(覆蓋索引),那麼這種情況會查詢很快。
因為利用索引查找有優化算法,且數據就在查詢索引上面,不用再去找相關的數據地址瞭,這樣節省瞭很多時間。
另外Mysql中也有相關的索引緩存,在並發高的時候利用緩存就效果更好瞭。
在我們的例子中,我們知道id字段是主鍵,自然就包含瞭默認的主鍵索引。現在讓我們看看利用覆蓋索引的查詢效果如何:
這次我們之間查詢最後一頁的數據(利用覆蓋索引,隻包含id列),如下:

select id from product limit 866613, 20

查詢時間為0.2秒,相對於查詢瞭所有列的37.44秒,提升瞭大概100多倍的速度。
那麼如果我們也要查詢所有列,有兩種方法,

2.2 利用 id>=的形式:

SELECT * FROM product 
WHERE ID > =(select id from product limit 866613, 1) limit 20

查詢時間為0.2秒,簡直是一個質的飛躍啊。

2.3 利用join

SELECT * FROM product a 
JOIN (select id from product limit 866613, 20) b ON a.ID = b.id

總結:

是不是認為我沒說理由,原因就是使用select * 的情況下直接用limit 600000,10 掃描的是約60萬條數據,並且是需要回表60W次,也就是說大部分性能都耗在隨機訪問上,到頭來隻用到10條數據,如果先查出來ID,再關聯去查詢記錄,就會快很多,因為索引查找符合條件的ID很快,然後再回表10次。就可以拿到我們想要的數據。

到此這篇關於為什麼MySQL分頁用limit會越來越慢的文章就介紹到這瞭,更多相關MySQL分頁limit慢內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!

推薦閱讀: