Postgresql 如何清理WAL日志

Posted on by

WAL是Write Ahead Log的簡寫，和oracle的redo日志類似，存放在$PGDATA/pg_xlog中，10版本以後在$PGDATA/pg_wal目錄.

如果開啟瞭歸檔，在目錄archive_status下會有一些文件，以ready結尾的，表示可以歸檔但還沒有歸檔，done結尾的表示已經歸檔。

和WAL日志數量相關的幾個參數：

wal_keep_segments = 300     # in logfile segments, 16MB each; 0 disables 
checkpoint_completion_target = 0.5   # checkpoint target duration, 0.0 - 1.0 
checkpoint_segments = 2048       # in logfile segments, min 1, 16MB each 
#9.5以後checkpoint_segments不再使用，要參考設置以下兩個參數
#max_wal_size = 1GB #最大不超過這個值
#min_wal_size = 80MB #最小保留這個值

如果沒有開啟歸檔的情況下：

不超過以下兩個公式計算得出的個數

(2 + checkpoint_completion_target) * checkpoint_segments + 1 或者checkpoint_segments + wal_keep_segments + 1

9.5以後，如果超過瞭max_wal_size，那麼就會刪除不需要的wal.

如果開啟瞭歸檔，那麼歸檔成功瞭，才會被清除，所以這裡註意一下，如果你開啟瞭歸檔，但是歸檔命令是失效的，那麼wal目錄會一直增長，不會自動刪除WAL，會使得此目錄被撐爆。

什麼情況下回自動清理wal

1.做檢查點的時候

2.數據庫啟動的時候，或者修改瞭相關參數後重啟數據庫。

觸發檢查點的情況：

1.從前一個檢查點發生過後的時間超過checkpoint_timeout設置的間隔（默認間隔為300秒（5分鐘））。

2.在版本9.4或更早版本中，自上一個檢查點以來，超過使用checkpoint_segments（默認數量為3）設置的WAL段文件數量。

3.在9.5或更高版本中，pg_xlog（版本10或更高版本，pg_wal）中WAL段文件的總大小已超過參數max_wal_size的值（默認值為1GB（64個文件））。

4.PostgreSQL服務在smart和fast模式下停止。

5.手動執行checkpoint.

如何手動清理wal

可以通過縮小以上涉及到的函數減少wal segment的數量，也可以手動刪除，如下：

pg_controldata
Latest checkpoint location: 16/79FF5520
Latest checkpoint's REDO location: 16/79FF54E8
Latest checkpoint's REDO WAL file: 00000001000000160000001E

這裡表示16/79FF54E8檢查點已經執行，已經包含在00000001000000160000001E日志文件中，那麼這個日志之前的日志是可以清理的。

可以手動使用系統命令rm清理

也可以使用pg_archivecleanup清理

比如：

查看日志
ll
total 833M
-rw------- 1 postgres postgres 64M Aug 29 11:10 00000001000000160000001E
-rw------- 1 postgres postgres 64M Jul 16 11:24 00000001000000160000001F
-rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000020
-rw------- 1 postgres postgres 64M Jul 16 11:25 000000010000001600000021
-rw------- 1 postgres postgres 64M Jul 16 11:25 000000010000001600000022
-rw------- 1 postgres postgres 64M Jul 16 11:26 000000010000001600000023
-rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000024
-rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000025
-rw------- 1 postgres postgres 64M Jul 16 11:26 000000010000001600000026
-rw------- 1 postgres postgres 64M Jul 16 11:40 000000010000001600000027
-rw------- 1 postgres postgres 64M Jul 16 11:40 000000010000001600000028
-rw------- 1 postgres postgres 64M Jul 16 11:51 000000010000001600000029
-rw------- 1 postgres postgres 64M Jul 16 11:40 00000001000000160000002A
drwx------ 2 postgres postgres 4.0K Jun 18 10:15 archive_status
保留000000010000001600000027之後的日志
 pg_archivecleanup /opt/pgdata11.3/pg_root/pg_wal/ 000000010000001600000027
 
 再次查看驗證
 ls
000000010000001600000027 000000010000001600000028 000000010000001600000029 00000001000000160000002A archive_status

補充：Postgresql 數據庫設置備份以及簡單清理磁盤空間和wal日志的方法

1. 最近想簡單的進行數據庫的備份工作, 因為現在數據庫主要是用的pg數據庫 , 所以想到用文本的方式進行, 有清理瞭一下日志表的數據 這裡一起記錄一下.

先記錄一下查看比較大的表的信息.

從網上找瞭下資料, 使用子查詢的方式來查詢表信息.

SELECT
  table_name,
  pg_size_pretty(table_size) AS table_size,
  pg_size_pretty(indexes_size) AS indexes_size,
  pg_size_pretty(total_size) AS total_size
FROM (
  SELECT
    table_name,
    pg_table_size(table_name) AS table_size,
    pg_indexes_size(table_name) AS indexes_size,
    pg_total_relation_size(table_name) AS total_size
  FROM (
    SELECT ('"' || table_schema || '"."' || table_name || '"') AS table_name
    FROM information_schema.tables
  ) AS all_tables
  ORDER BY total_size DESC
) AS pretty_sizes;

找出來最大的表信息之後, 需要使用

truncate table 的方式能夠直接清理空間不然空間還是占用著的.

truncate table ****

或者是在數據庫的 /data/base 目錄下面也能夠看到響應的表信息

2. 整理pg_wal 文件內的信息

wal 是 write ahead log 的意思 裡面跟oracle的redo內容類似, 有時候文件會比較多需要清理一下.

方法

su - postgres
cd /usr/lib/yourpgbinpath
./pg_resetwal {PGDATA}
執行清理

3. 執行備份恢復的方式

備份 
tar -czvf /pgdata.tar.gz /pgdatapath
恢復
tar -zxvf /pgdata.tar.gz / 
恢復即可,

以上為個人經驗，希望能給大傢一個參考，也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方，望不吝賜教。

推薦閱讀：