一文搞懂MySQL持久化和回滾的原理

Posted on by

redo log

事務的支持是數據庫區分文件系統的重要特征之一，事務的四大特性：

  • 原子性：所有的操作要麼都做，要麼都不做，不可分割。
  • 一致性：數據庫從一種狀態變成另一種狀態的的結果最終是一致的，比如A給B轉賬500，A最終少瞭500，B最終多瞭500，但是A+B的值始終沒變。
  • 隔離性：事務和事務之前相互隔離，互不幹擾。
  • 持久性：事務一旦提交，它對數據的變更是永久性的。

本篇文章主要說說持久性相關的知識。

當我們在事務中更新一條記錄的時候，比如：

update user set age=11 where user_id=1;

它的流程大概是這樣的：

  • 先判斷user_id這條數據所在的頁是否在內存裡，如果不在的話，先從數據庫讀取到，然後加載到內存中
  • 修改內存中的age為11
  • 寫入redo log，並且redo log處於prepare狀態
  • 寫入binlog
  • 提交事務，redo log變成commit狀態

這裡面有幾個關鍵的點：redo log是什麼？為什麼需要redo log？prepare狀態的redo log是什麼？redo log和binlog是否可以隻選其一…?帶著這一系列的問題，我們來揭開redo log的面紗。

為什麼要先更新內存數據，不直接更新磁盤數據？

我們為什麼不每次更新數據的時候，直接更新對應的磁盤數據？首先我們知道磁盤IO是緩慢的，內存是快速的，兩者的速度不是一個量級的，那麼針對緩慢的磁盤IO，出現瞭索引，通過索引哪怕數據成百上千萬我們依然可以在磁盤上很快速的找我們的數據，這就是索引的作用。但是索引也需要維護，並不是一成不變的，當我們插入一條新數據A的時候，由於這條數據要插入在已存在的數據B之後，那麼就要移動B數據，讓出一個位置給A，這個有一定的開銷。更糟糕的是，本來要插入的頁已經滿瞭，那麼就要申請一個新的頁，然後挪一部分數據過去，這叫做頁的分裂，這個開銷更大。如果我們的sql變更是直接修改磁盤的數據，恰巧正好出現上面的問題，那麼此時的效率就會很低，嚴重的話會造成超時，這也是上面更新的過程為什麼先要加載對應的數據頁到內存中，然後先更新內存中的數據的原因。對於mysql來說，所有的變更都必須先更新緩沖池中的數據，然後緩沖池中的臟頁會以一定的頻率被刷入磁盤（checkPoint機制），通過緩沖池來優化CPU和磁盤之間的鴻溝，這樣就可以保證整體的性能不會下降太快。

為什麼需要redo log？

緩沖池可以幫助我們消除CPU和磁盤之間的鴻溝，checkpoint機制可以保證數據的最終落盤，然而由於checkpoint並不是每次變更的時候就觸發的，而是master線程隔一段時間去處理的。所以最壞的情況就是剛寫完緩沖池，數據庫宕機瞭，那麼這段數據就是丟失的，無法恢復。這樣的話就不滿足ACID中的D，為瞭解決這種情況下的持久化問題，InnoDB引擎的事務采用瞭WAL技術（Write-Ahead Logging），這種技術的思想就是先寫日志，再寫磁盤，隻有日志寫入成功，才算事務提交成功，這裡的日志就是redo log。當發生宕機且數據未刷到磁盤的時候，可以通過redo log來恢復，保證ACID中的D，這就是redo log的作用。

redo log是如何實現的？

redo log的寫入並不是直接寫入磁盤的，redo log也有緩沖區的，叫做redo log buffer（重做日志緩沖），InnoDB引擎會在寫redo log的時候先寫redo log buffer，然後也是以一定的頻率刷入到真正的redo log中，redo log buffer一般不需要特別大，它隻是一個臨時的容器，master線程會每秒將redo log buffer刷到redo log文件中，因此我們隻要保證redo log buffer能夠存下1s內的事務變更的數據量即可，以mysql5.7.23為例，這個默認是16M。

mysql> show variables like '%innodb_log_buffer_size%';
+------------------------+----------+
| Variable_name          | Value    |
+------------------------+----------+
| innodb_log_buffer_size | 16777216 |
+------------------------+----------+

16M的buffer足夠應對大部分應用瞭，buffer同步到redo log的策略主要有如下幾個：

  • master線程每秒將buffer刷到到redo log中
  • 每個事務提交的時候會將buffer刷到redo log中
  • 當buffer剩餘空間小於1/2時，會被刷到redo log中

需要註意的是redo log buffer刷到redo log的過程並不是真正的刷到磁盤中去瞭，隻是刷入到os cache中去，這是現代操作系統為瞭提高文件寫入的效率做的一個優化，真正的寫入會交給系統自己來決定（比如os cache足夠大瞭）。那麼對於InnoDB來說就存在一個問題，如果交給系統來fsync，同樣如果系統宕機，那麼數據也丟失瞭（雖然整個系統宕機的概率還是比較小的）。針對這種情況，InnoDB給出innodb_flush_log_at_trx_commit策略，讓用戶自己決定使用哪個。

mysql> show variables like 'innodb_flush_log_at_trx_commit';
+--------------------------------+-------+
| Variable_name                  | Value |
+--------------------------------+-------+
| innodb_flush_log_at_trx_commit | 1     |
+--------------------------------+-------+
  • 0：表示事務提交後，不進行fsync，而是由master每隔1s進行一次重做日志的fysnc
  • 1：默認值，每次事務提交的時候同步進行fsync
  • 2：寫入os cache後，交給操作系統自己決定什麼時候fsync

從3種刷入策略來說：

2肯定是效率最高的，但是隻要操作系統發生宕機，那麼就會丟失os cache中的數據，這種情況下無法滿足ACID中的D

0的話，是一種折中的做法，它的IO效率理論是高於1的，低於2的，它的數據安全性理論是要低於1的，高於2的，這種策略也有丟失數據的風險，也無法保證D。

1是默認值，可以保證D，數據絕對不會丟失，但是效率最差的。個人建議使用默認值，雖然操作系統宕機的概率理論小於數據庫宕機的概率，但是一般既然使用瞭事務，那麼數據的安全應該是相對來說更重要些。

redo log是對頁的物理修改，第x頁的第x位置修改成xx，比如：

page(2,4),offset 64,value 2

在InnoDB引擎中，redo log都是以512字節為單位進行存儲的，每個存儲的單位我們稱之為redo log block（重做日志塊），若一個頁中存儲的日志量大於512字節，那麼就需要邏輯上切割成多個block進行存儲。

一個redo log block是由日志頭、日志體、日志尾組成。日志頭占用12字節，日志尾占用8字節，所以一個block真正能存儲的數據就是512-12-8=492字節。 

 多個redo log block組成瞭我們的redo log。 

每個redo log默認大小為48M：

mysql> show variables like 'innodb_log_file_size';
+----------------------+----------+
| Variable_name        | Value    |
+----------------------+----------+
| innodb_log_file_size | 50331648 |
+----------------------+----------+

InnoDB默認2個redo log組成一個log組，真正工作的就是這個log組。

mysql> show variables like 'innodb_log_files_in_group';
+---------------------------+-------+
| Variable_name             | Value |
+---------------------------+-------+
| innodb_log_files_in_group | 2     |
+---------------------------+-------+
#ib_logfile0
#ib_logfile1

當ib_logfile0寫完之後，會寫ib_logfile1，當ib_logfile1寫完之後，會重新寫ib_logfile0…，就這樣一直不停的循環寫。

為什麼一個block設計成512字節？

這個和磁盤的扇區有關，機械磁盤默認的扇區就是512字節，如果你要寫入的數據大於512字節，那麼要寫入的扇區肯定不止一個，這時就要涉及到盤片的轉動，找到下一個扇區，假設現在需要寫入兩個扇區A和B，如果扇區A寫入成功，而扇區B寫入失敗，那麼就會出現非原子性的寫入，而如果每次隻寫入和扇區的大小一樣的512字節，那麼每次的寫入都是原子性的。

為什麼要兩段式提交？

從上文我們知道，事務的提交要先寫redo log(prepare)，再寫binlog，最後再提交(commit)。這裡為什麼要有個prepare的動作？redo log直接commit狀態不行嗎？假設redo log直接提交，在寫binlog的時候，發生瞭crash，這時binlog就沒有對應的數據，那麼所有依靠binlog來恢復數據的slave，就沒有對應的數據，導致主從不一致。所以需要通過兩段式（2pc）提交來保證redo log和binlog的一致性是非常有必要的。具體的步驟是：處於prepare狀態的redo log，會記錄2PC的XID，binlog寫入後也會記錄2PC的XID，同時會在redo log上打上commit標識。

redo log和bin log是否可以隻需要其中一個？

不可以。redo log本身大小是固定的，在寫滿之後，會重頭開始寫，會覆蓋老數據，因為redo log無法保存所有數據，所以在主從模式下，想要通過redo log來同步數據給從庫是行不通的。那麼binlog是一定需要的，binlog是mysql的server層產生的，和存儲引擎無關，binglog又叫歸檔日志，當一個binlog file寫滿之後，會寫入到一個新的binlog file中。所以我們是不是隻需要binlog就行瞭？redo log可以不需要？當然也不行，redo log的作用是提供crash-safe的能力，首先對於一個數據的修改，是先修改緩沖池中的數據頁的，這時修改的數據並沒有真正的落盤，這主要是因為磁盤的離散讀寫能力效率低，真正落盤的工作交給master線程定期來處理，好處就是master可以一次性把多個修改一起寫入磁盤。那麼此時就有一個問題，當事務commit之後，數據在緩沖區的臟頁中，還沒來的及刷入磁盤，此時數據庫發生瞭崩潰，那麼這條commit的數據即使在數據庫恢復後，也無法還原，並不能滿足ACID中的D，然後就有瞭redo log，從流程來看，一個事務的提交必須保證redo log的寫入成功，隻有redo log寫入成功才算事務提交成功，redo log大部分情況是順序寫的磁盤，所以它的效率要高很多。當commit後發生crash的情況下，我們可以通過redo log來恢復數據，這也是為什麼需要redo log的原因。但是事務的提交也需要binlog的寫入成功，那為什麼不可以通過binlog來恢復未落盤的數據？這是因為binlog不知道哪些數據落盤瞭，所以不知道哪些數據需要恢復。對於redo log而言，在數據落盤後對應的redo log中的數據會被刪除，那麼在數據庫重啟後，隻要把redo log中剩下的數據都恢復就行瞭。

crash後是如何恢復的？

通過兩段式提交我們知道redo log和binlog在各個階段會被打上prepare或者commit的標識，同時還會記錄事務的XID，有瞭這些數據，在數據庫重啟的時候，會先去redo log裡檢查所有的事務，如果redo log的事務處於commit狀態，那麼說明在commit後發生瞭crash，此時直接把redo log的數據恢復就行瞭，如果redo log是prepare狀態，那麼說明commit之前發生瞭crash，此時binlog的狀態決定瞭當前事務的狀態，如果binlog中有對應的XID，說明binlog已經寫入成功，隻是沒來的及提交，此時再次執行commit就行瞭，如果binlog中找不到對應的XID，說明binlog沒寫入成功就crash瞭，那麼此時應該執行回滾。

undo log

redo log是事務持久性的保證，undo log是事務原子性的保證。在事務中更新數據的前置操作其實是要先寫入一個undo log中的，所以它的流程大致如下：

什麼情況下會生成undo log？

undo log的作用就是mvcc（多版本控制）和回滾，我們這裡主要說回滾，當我們在事務裡insert、update、delete某些數據的時候，就會產生對應的undo log，當我們執行回滾時，通過undo log就可以回到事務開始的樣子。需要註意的是回滾並不是修改的物理頁，而是邏輯的恢復到最初的樣子，比如一個數據A，在事務裡被你修改成B，但是此時有另一個事務已經把它修改成瞭C，如果回滾直接修改數據頁把數據改成A，那麼C就被覆蓋瞭。

對於InnoDB引擎來說，每個行記錄除瞭記錄本身的數據之外，還有幾個隱藏的列：

  • DB_ROW_ID：如果沒有為表顯式的定義主鍵，並且表中也沒有定義唯一索引，那麼InnoDB會自動為表添加一個row_id的隱藏列作為主鍵。
  • DB_TRX_ID：每個事務都會分配一個事務ID，當對某條記錄發生變更時，就會將這個事務的事務ID寫入trx_id中。
  • DB_ROLL_PTR：回滾指針，本質上就是指向 undo log 的指針。

當我們執行INSERT時：

begin;
INSERT INTO user (name) VALUES ("tom")

插入的數據都會生一條insert undo log，並且數據的回滾指針會指向它。undo log會記錄undo log的序號、插入主鍵的列和值…，那麼在進行rollback的時候，通過主鍵直接把對應的數據刪除即可。

對於更新的操作會產生update undo log，並且會分更新主鍵的和不更新的主鍵的，假設現在執行：

UPDATE user SET name="Sun" WHERE id=1;

 這時會把老的記錄寫入新的undo log，讓回滾指針指向新的undo log，它的undo no是1，並且新的undo log會指向老的undo log（undo no=0）。

假設現在執行：

UPDATE user SET id=2 WHERE id=1;

對於更新主鍵的操作，會先把原來的數據deletemark標識打開，這時並沒有真正的刪除數據，真正的刪除會交給清理線程去判斷，然後在後面插入一條新的數據，新的數據也會產生undo log，並且undo log的序號會遞增。

可以發現每次對數據的變更都會產生一個undo log，當一條記錄被變更多次時，那麼就會產生多條undo log，undo log記錄的是變更前的日志，並且每個undo log的序號是遞增的，那麼當要回滾的時候，按照序號依次向前推，就可以找到我們的原始數據瞭。

undo log是如何回滾的？

以上面的例子來說，假設執行rollback，那麼對應的流程應該是這樣：

  • 通過undo no=3的日志把id=2的數據刪除
  • 通過undo no=2的日志把id=1的數據的deletemark還原成0
  • 通過undo no=1的日志把id=1的數據的name還原成Tom
  • 通過undo no=0的日志把id=1的數據刪除

undo log存在什麼地方？

InnoDB對undo log的管理采用段的方式，也就是回滾段，每個回滾段記錄瞭1024個undo log segment，InnoDB引擎默認支持128個回滾段

mysql> show variables like 'innodb_undo_logs';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| innodb_undo_logs | 128   |
+------------------+-------+

那麼能支持的最大並發事務就是128*1024。每個undo log segment就像維護一個有1024個元素的數組。

當我們開啟個事務需要寫undo log的時候，就得先去undo log segment中去找到一個空閑的位置，當有空位的時候，就會去申請undo頁，最後會在這個申請到的undo頁中進行undo log的寫入。我們知道mysql默認一頁的大小是16k。

mysql> show variables like '%innodb_page_size%';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| innodb_page_size | 16384 |
+------------------+-------+

那麼為一個事務就分配一個頁，其實是非常浪費的（除非你的事物非常長），假設你的應用的TPS為1000，那麼1s就需要1000個頁，大概需要16M的存儲，1分鐘大概需要1G的存儲…，如果照這樣下去除非mysql清理的非常勤快，否則隨著時間的推移，磁盤空間會增長的非常快，而且很多空間都是浪費的。於是undo頁就被設計的可以重用瞭，當事務提交時，並不會立刻刪除undo頁，因為重用，這個undo頁它可能不幹凈瞭，所以這個undo頁可能混雜著其他事務的undo log。undo log在commit後，會被放到一個鏈表中，然後判斷undo頁的使用空間是否小於3/4，如果小於3/4的話，則表示當前的undo頁可以被重用，那麼它就不會被回收，其他事務的undo log可以記錄在當前undo頁的後面。由於undo log是離散的，所以清理對應的磁盤空間時，效率不是那麼高。

到此這篇關於一文搞懂MySQL持久化和回滾的原理的文章就介紹到這瞭,更多相關MySQL持久化和回滾內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！

推薦閱讀：