postgresql 12版本搭建及主備部署操作

postgresql 12版本主備部署

環境搭建

centos 7+

postgresql 12.0

# 網絡檢查
ping -c2 baidu.com
#關閉防火墻,selinux
systemctl stop firewalld && sudo systemctl disable firewalld
sed -ri s/SELINUX=enforcing/SELINUX=disabled/g /etc/selinux/config
setenforce 0
### 配置阿裡雲yum源
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak
curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
#echo "isntalling tools"
yum -y install vim net-tools wget ntpdate
yum -y groupinstall "Development Tools"
# 時間同步
echo "*/10 * * * * /usr/sbin/ntpdate ntp.aliyun.com > /dev/null 2>&1" >>/etc/crontab
# 加快ssh連接
sed -ri s/"#UseDNS yes"/"UseDNS no"/g /etc/ssh/sshd_config
systemctl restart sshd
## 環境準備,根據自身需要,減少或者增加
yum install -y wget gcc gcc-c++ epel-release llvm5.0 llvm5.0-devel clang libicu-devel perl-ExtUtils-Embed readline readline-devel zlib zlib-devel openssl openssl-devel pam-devel libxml2-devel libxslt-devel openldap-devel systemd-devel tcl-devel python-devel
## 下載、解壓,安裝
cd /usr/local/src
wget https://ftp.postgresql.org/pub/source/v12.0/postgresql-12.0.tar.gz
tar -xvzf postgresql-12.tar.gz
cd postgresql-12
./configure --prefix=/usr/local/pgsql/12 --enable-nls --with-python --with-tcl --with-gssapi --with-icu --with-openssl --with-pam --with-ldap --with-systemd --with-libxml --with-libxslt
make && make install
## 創建目錄和用戶,以及配置環境變量
groupadd postgres
useradd -g postgres postgres
## 密碼設置在引號內輸入自己的密碼
echo "postgres" | passwd --stdin postgres
mkdir -p /data/pgdata/{data,archivedir}
chown -R postgres:postgres /usr/local/pgsql -R
chown postgres:postgres /data/pgdata -R
echo "export PATH=/usr/local/pgsql/12/bin:$PATH" >/etc/profile.d/pgsql.sh
source /etc/profile.d/pgsql.sh

環境部署已經完成,接下來我們來搭建postgresql的主備

主備搭建

備庫搭建

以下的操作均在postgres用戶下進行

su - postgres
##初始化
initdb -D /data/pgdata/data -U postgres --locale=en_US.UTF8 -E UTF8
cp /data/pgdata/data/{pg_hba.conf,pg_hba.conf.bak}
## 允許repl用戶進行流復制
cat <<-eof >>/data/pgdata/data/pg_hba.conf
host all    all    0.0.0.0/0    md5
host replication  repl   192.168.0.0/22   trust
eof
cp /data/pgdata/data/{postgresql.conf,postgresql.conf.bak}
##配置postgresql.conf
cat <<-eof >/data/pgdata/data/postgresql.conf
listen_addresses = '*'      
port = 5432
max_connections = 100
superuser_reserved_connections = 10
full_page_writes = on
wal_log_hints = off
max_wal_senders = 50
hot_standby = on
log_destination = 'csvlog'
logging_collector = on
log_directory = 'log'
log_filename = 'postgresql-%Y-%m-%d_%H%M%S'
log_rotation_age = 1d
log_rotation_size = 10MB
log_statement = 'mod'
log_timezone = 'PRC'
timezone = 'PRC'
unix_socket_directories = '/tmp'
shared_buffers = 512MB
temp_buffers = 16MB
work_mem = 32MB
effective_cache_size = 2GB
maintenance_work_mem = 128MB
#max_stack_depth = 2MB
dynamic_shared_memory_type = posix
## PITR
full_page_writes = on
wal_buffers = 16MB
wal_writer_delay = 200ms
commit_delay = 0
commit_siblings = 5
wal_level = replica
archive_mode = on
archive_command = 'test ! -f /data/pgdata/archivedir/%f && cp %p /data/pgdata/archivedir/%f'
archive_timeout = 60s
eof
## 啟動數據庫
pg_ctl -D /data/pgdata/data -l /data/pgdata/data/serverlog start
## 創建用戶進行流復制連接
psql -U postgres -c "ALTER USER postgres WITH PASSWORD 'postgres';"
psql -U postgres -c "CREATE USER repl WITH PASSWORD 'postgres' REPLICATION;"

備庫搭建

## 備份復制,備庫配置,
pg_basebackup -h 192.168.3.62 -p 5432 -U repl -w -Fp -Xs -Pv -R -D /data/pgdata/data
根據主庫的postgresql.conf 配置文件 修改參數配置:
1, listen_addresses = '* '
2, wal_level = hot_standby
3, max_connections = xxx, # 一般比主庫大一些.
4,hot_standby = on
5, max_standby_streaming_delay = 30s
6. wal_receiver_status_interval = 10s
7, hot_standby_feedback = on # 如果有錯誤的數據復制,是否向 主進行范例.
### 在postgre.auto.conf 添加 application_name =slave1,配置如下
primary_conninfo = 'application_name=slave1 user=repl passfile=''/home/postgres/.pgpass'' host=192.168.3.62 port=5432 sslmode=prefer sslcompression=0 gssencmode=prefer krbsrvname=postgres target_session_attrs=any'
## 啟動備庫
pg_ctl -D /data/pgdata/data start

寫在最後(狀態檢查)

##狀態檢查
### 回到主庫查看狀態
$ psql -c "select client_addr,usename,backend_start,application_name,sync_state,sync_priority FROM pg_stat_replication;"
 client_addr | usename |   backend_start   | application_name | sync_state | sync_priority 
--------------+---------+-------------------------------+------------------+------------+---------------
 192.168.3.61 | repl | 2019-10-16 15:34:45.130732+08 | slave1   | async  |    0
(1 row)
$ psql -c "select client_addr, sync_state from pg_stat_replication;"
 client_addr | sync_state 
--------------+------------
 192.168.3.61 | async
(1 row)
##備庫隻讀, 所以任何操作, 都會告警失敗:
postgres=# drop database pgtest;
ERROR: cannot execute DROP DATABASE in a read-only transaction
## 查看主備的狀態
#主
ps -ef |grep sender
postgres 92996 51692 0 15:34 ?  00:00:00 postgres: walsender repl 192.168.3.61(53958) streaming 0/8000060
postgres 101845 20470 0 15:45 pts/2 00:00:00 grep --color=auto sender
#備
ps -ef |grep recover
postgres 98311 98309 0 15:34 ?  00:00:00 postgres: startup recovering 000000010000000000000008
postgres 108029 21054 0 15:46 pts/2 00:00:00 grep --color=auto recover
#通過此命令判斷主備
pg_controldata -D /data/pgdata/data/ |grep state
in archive recovery ## 表示從庫
in production  ## 表示主庫

補充:PostgreSQL 12:新功能和增強功能

介紹

PostgreSQL 12是世界上最受歡迎和功能最豐富的開源數據庫的下一個主要發行版。PostgreSQL 12的穩定版本計劃於2019年末發佈。版本12的Beta 4已於2019年9月12日發佈。

本文將引導您完成最重要的新功能的摘要。PostgreSQL 12中的增強功能和重大更改。

新功能和增強功能

CTE增強

在PostgreSQL中,CTE是優化屏障(外部查詢限制不傳遞給CTE),數據庫在CTE內部評估查詢,並緩存結果(即具體化的結果)和外部where子句,這意味著在處理外部查詢時,要麼執行完整表掃描,要麼執行完整索引查找。對於大表來說,這會導致糟糕的性能。

WITH AllUsers AS (SELECT * FROM Users)
SELECT * FROM AllUsers WHERE Id = 100;

為瞭克服這個問題,您可以在PostgreSQL中將該查詢重寫為:

WITH UserRecord AS (SELECT * FROM Users WHERE Id = 100)
SELECT * FROM UserRecord;

PostgreSQL 12通過引入查詢優化器提示來解決此問題,以使我們能夠控制是否應實現CTE:MATERIALIZED,NOT MATERIALIZED。因此,可以將查詢重寫如下,以獲得更好的性能。

WITH AllUsers AS NOT MATERIALIZED (SELECT * FROM Users)
SELECT * FROM AllUsers WHERE Id = 100;

這有效地內聯瞭CTE表達式,並顯著提高瞭性能。

生成列

SQL Server和Oracle長期以來都有計算列,而PostgreSQL中缺少計算列使從其他數據庫的遷移變得非常困難。PostgreSQL 12引入瞭生成列(Generated Columns)來解決這個問題。

生成列對於列就像視圖對於表一樣。該列的值始終是根據表中的其他列計算的。生成的列可以是虛擬的或存儲的。虛擬列的值是在查詢期間動態計算的,它們不會占用存儲空間。已存儲的列的值已預先計算並存儲為表數據的一部分。PostgreSQL當前僅實現存儲的生成列。

GENERATED ALWAYS AS子句用於創建生成的列

CREATE TABLE Employee (
 ...,
 dob timestamp,
 age integer GENERATED ALWAYS AS (date_part('year', CURRENT_TIME - dob)) STORED
);

在PostgreSQL 11.x和更早的版本中,唯一的方法是將age聲明為普通列並編寫觸發器以在插入和更新期間填充該列

CREATE OR REPLACE FUNCTION calc_age() RETURNS TRIGGER AS $body$
BEGIN
 NEW.age := date_part('year', CURRENT_TIME - NEW.dob::timestamp);
 RETURN NEW;
END; 
$body$ LANGUAGE plpgsql;

計算列的SQL Server語法

將此與SQL Server語法進行對比。SQL Server中沒有特殊的關鍵字來聲明計算列。您隻需在AS子句後指定使我們成為計算列的表達式。

-- SQL Server Syntax
CREATE TABLE Employee (
 ...,
 dob datetime,
 age AS DATEDIFF(year,dob,GETDATE()) PERSISTED
);

請註意PERSISTED 子句與PostgreSQL的STORED 子句等效。SQL Server還支持非持久的計算列,隻是不指定PERSISTED 子句。

那麼,生成列與帶有DEFAULT子句的普通列有何不同?

1、如果未提供其他值,則在首次插入行時對列默認值進行一次評估。每當行發生更改且無法覆蓋時,生成的列都會更新。

2、可以在INSERT或UPDATE語句中為具有DEFAULT約束的列提供值。生成的列不能被賦予值,它們總是被計算的。

3、列的默認值不能引用表的其他列,而生成的列則專門用於引用該表。

4、列默認值可以使用易變函數,例如random()或current_time,生成的列不能使用。

重新索引改進

REINDEX CONCURRENTLY可以重建索引而不會阻止對其表的寫入。CONCURRENTLY子句先前僅在CREATE INDEX語句中可用。

CREATE TABLE test (x INTEGER);
INSERT INTO test SELECT generate_series(1, 1000000);
CREATE INDEX i_test ON test (x);
REINDEX INDEXCONCURRENTLY i_test;

在早期版本的PostgreSQL中,REINDEX在大表上經常引起阻塞寫入和嚴重的性能問題。

默認情況下啟用JIT編譯

如果服務器是在其支持下構建的,則默認情況下啟用即時(JIT)編譯。請註意,默認情況下不構建此支持,但是在配置構建時必須明確選擇。這對於數據倉庫查詢特別有用。

查詢並行性改進

在SERIALIZABLE隔離模式下,允許並行查詢。以前,在此模式下禁用並行性。

PL/pgSQL增強

允許在相同的PL/pgSQL函數中使用與這些命令同名的SQL命令和變量。例如,允許一個調用變量comment存在於調用COMMENT SQL命令的函數中。以前,此組合導致解析錯誤。

SQL / JSON路徑查詢

PostgreSQL 12現在允許按照SQL:2016標準中的SQL / JSON規范執行JSON路徑查詢。JSON路徑表達式使您可以評估各種算術表達式和函數,並比較JSON文檔中的值,類似於XML的XPath表達式。可以使用GIN索引來加速這些表達式,從而改善跨JSON數據的查找執行。

分區改進

在處理帶有成千上萬個分區的表的命令時,隻需使用所有可用分區的子集,PostgreSQL 12的性能就會得到顯著提高。與以前的版本相比,INSERT和COPY到分區表的速度也要快得。 ATTACH PARTITION現在可以執行,而不會阻止對分區表的並發查詢。現在可以將分區表稱為外鍵。分區邊界現在可以是表達式。

拼寫改進

PostgreSQL 12現在支持對ICU提供的排序規則(也稱為“非確定性排序規則”),不區分大小寫和不區分重音的比較。使用這些排序規則時,可以為比較和排序提供便利,但是由於排序規則可能需要對字符串進行其他檢查,因此也可能導致性能下降。

MCV統計信息現在支持多列

CREATE STATISTICS命令允許對多列進行最常用值統計。以前,多列隻記錄瞭一個相關值。

CREATE STATISTICS stts3 (mcv) ON state, city FROM zipcodes;
ANALYZE zipcodes;

從舊版本遷移

1、PostgreSQL 12中的某些更改可能會影響與早期版本的兼容性。

recovery.conf不再使用,並且如果該文件存在,服務器將不會啟動。recovery.signal和standby.signal文件現在用於切換到非主要模式。trigger_file已重命名為promove_trigger_file。standby_mode設置已被刪除。

2、在新的btree索引中,最大索引條目長度減少瞭八個字節,以改善重復條目的處理。這意味著REINDEX對先前版本的索引pg_upgrade 進行的操作可能會失敗。

3、如果沒有提供參數列表,並存在多個匹配對象,DROP IF EXISTS FUNCTION/ PROCEDURE/ AGGREGATE/ ROUTINE以產生一個錯誤

以上為個人經驗,希望能給大傢一個參考,也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方,望不吝賜教。

推薦閱讀: