當(dāng)前位置:首頁(yè) >  站長(zhǎng) >  數(shù)據(jù)庫(kù) >  正文

詳解PostgreSQL提升批量數(shù)據(jù)導(dǎo)入性能的n種方法

 2021-04-21 17:10  來(lái)源: 腳本之家   我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)

關(guān)鍵字:批量數(shù)據(jù)導(dǎo)入,數(shù)據(jù)加載,大量插入,加快,提升速度

多元化選擇時(shí)代,人生里很多事物都是如此,凡事都沒(méi)有一成不變的方式和方法。不管白貓黑貓,能抓老鼠的就是好貓,適合自己的就是最好的。

提升批量數(shù)據(jù)導(dǎo)入的方法亦是如此,沒(méi)有何種方法是最優(yōu)的,應(yīng)用任何方法前根據(jù)自己的實(shí)際情況權(quán)衡利弊,做出選擇。

批量導(dǎo)入數(shù)據(jù)之前,無(wú)論采取何種方式,務(wù)必做好相應(yīng)的備份。

導(dǎo)入完成后亦需對(duì)相應(yīng)對(duì)象進(jìn)行ANALYZE操作,這樣查詢(xún)優(yōu)化器才會(huì)按照最新的統(tǒng)計(jì)信息生成正確的執(zhí)行計(jì)劃。

下面正式介紹提升批量數(shù)據(jù)導(dǎo)入性能的n種方法。

方法1:禁用自動(dòng)提交。

psql
\set AUTOCOMMIT off

其他
BEGIN;
執(zhí)行批量數(shù)據(jù)導(dǎo)入
COMMIT;

 

方法2:設(shè)置表為UNLOGGED。

導(dǎo)入數(shù)據(jù)之前先把表改成UNLOGGED模式,導(dǎo)入完成后改回LOGGED模式。

ALTER TABLE tablename SET UNLOGGED;
執(zhí)行批量數(shù)據(jù)導(dǎo)入
ALTER TABLE tablename LOGGED;

 

優(yōu)點(diǎn):

導(dǎo)入信息不記錄WAL日志,極大減少io,提升導(dǎo)入速度。

缺點(diǎn):

1.在replication環(huán)境下,表無(wú)法設(shè)置為UNLOGGED模式。

2.導(dǎo)入過(guò)程一旦出現(xiàn)停電死機(jī)等會(huì)導(dǎo)致數(shù)據(jù)庫(kù)不能干凈關(guān)庫(kù)的情況,數(shù)據(jù)庫(kù)中所有UNLOGGED表的數(shù)據(jù)將丟失。

方法3:重建索引。

導(dǎo)入數(shù)據(jù)之前先刪除相關(guān)表上的索引,導(dǎo)入完成后重新創(chuàng)建之。

DROP INDEX indexname;
執(zhí)行批量數(shù)據(jù)導(dǎo)入
CREATE INDEX ...;

 

查詢(xún)表上索引定義的方法

1select * from pg_indexes where tablename ='tablename' and schemaname = 'schemaname';

方法4:重建外鍵。

導(dǎo)入數(shù)據(jù)之前先刪除相關(guān)表上的外鍵,導(dǎo)入完成后重新創(chuàng)建之。

ALTER TABLE ...
 DROP CONSTRAINT ... ;
執(zhí)行批量數(shù)據(jù)導(dǎo)入
ALTER TABLE ...
 ADD CONSTRAINT ...
 FOREIGN KEY ...
 REFERENCES ...;

 

相關(guān)信息可查詢(xún)pg_constraint。

方法5:停用觸發(fā)器

導(dǎo)入數(shù)據(jù)之前先DISABLE掉相關(guān)表上的觸發(fā)器,導(dǎo)入完成后重新ENABLE之。

ALTER TABLE tablename DISABLE TRIGGER ALL;
執(zhí)行批量數(shù)據(jù)導(dǎo)入
ALTER TABLE tablename ENABLE TRIGGER ALL;

 

相關(guān)信息可查詢(xún)pg_trigger。

方法6:insert改copy

COPY針對(duì)批量數(shù)據(jù)加載進(jìn)行了優(yōu)化。

1COPY ... FROM 'xxx';

方法7:?jiǎn)沃礽nsert改多值insert

減少sql解析的時(shí)間。

方法8:insert改PREPARE

通過(guò)使用PREPARE預(yù)備語(yǔ)句,降低解析消耗。

PREPARE fooplan (int, text, bool, numeric) AS
 INSERT INTO foo VALUES($1, $2, $3, $4);
EXECUTE fooplan(1, 'Hunter Valley', 't', 200.00);

 

方法9:修改參數(shù)

增大maintenance_work_mem,增大max_wal_size。

方法10:關(guān)閉歸檔模式,降低wal日志級(jí)別。

修改archive_mode參數(shù)控制歸檔開(kāi)啟和關(guān)閉。降低wal_level值為minimal來(lái)減少日志信息記錄。

此法需要重啟數(shù)據(jù)庫(kù),需要規(guī)劃停機(jī)時(shí)間。此外如有replication備庫(kù),還需考慮對(duì)其影響。

文章來(lái)源:腳本之家

來(lái)源地址:https://www.jb51.net/article/207336.htm

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

熱門(mén)排行

信息推薦