--data-only
フラグと--column-inserts
フラグを使用して本番サーバーから新しいdbダンプを作成したので、ステージングサーバーで復元を実行するときにデータを挿入するための挿入ステートメントの束しかありません。
pg_dump -h localhost -U adminuser --data-only --column-inserts maindb > maindb.sql
本番ダンプからデータを復元する前に、ステージングサーバーデータベースのすべてのデータを最初に削除するにはどうすればよいですか?
すべてのデータのみを削除したいので、データベースやそのすべてのものを削除して作成する必要はありません。データを削除して、新しいデータをすべて挿入したいだけです。
いくつかの理由で、データベースを削除して作成するオプションがありません。私はすべてのデータを削除して挿入するだけでよいので、これを行う方法を見つけるために必要なことは何でも、進んで進んでいきますが、最初から手助けが必要です。
このプロセスも自動化する必要があります。 「本番データベースからのデータのダンプ」、「ステージングデータベースのデータの削除」、「ステージングデータベースへのデータの復元」を自動化します。 「ステージングデータベースのデータの削除」の部分で助けが必要です。
PostgreSQL 9.5.2で実行しています
データベースを削除する必要はありません。データベース内のすべてのオブジェクトを削除するだけで十分です。これは、
drop owned by adminuser
次に、create table
ステートメントを含むSQLダンプを作成する場合(つまりなし--data-only
オプション)、すべて正常です。
次に、--column-inserts
を削除して、インポートをlot速くすることもできます。
ただし、すべてを削除したい場合は、小さな動的SQLを使用して削除できます。
do
$$
declare
l_stmt text;
begin
select 'truncate ' || string_agg(format('%I.%I', schemaname, tablename), ',')
into l_stmt
from pg_tables
where schemaname in ('public');
execute l_stmt;
end;
$$
これにより、スキーマpublic
内のすべてのテーブルが単一のステートメントで切り捨てられます。これは、すべてのテーブルを接続する多くの外部キー制約がある場合でも機能します。テーブルが複数のスキーマにまたがっている場合は、それらをwhere
条件に追加する必要があります。
pg_restoreには--cleanフラグ(または--create)があり、操作を実行する前にデータを自動的に削除します。
優れたドキュメント は非常に役立ちます...
わかりやすくするために、混乱する場合があります。
再作成する前に、データベースオブジェクトをクリーン(ドロップ)します。 (--if-existsを使用しない限り、宛先データベースにオブジェクトが存在しなかった場合、無害なエラーメッセージが生成される可能性があります。)
これは実際のデータベースを削除しません..テーブル/ビュー/その他のみ。
なんらかの理由で、テーブルの削除と再作成が受け入れられない場合は、ソースデータベースからdata only
ダンプを作成するスクリプトを手動で作成し、TRUNCATE
またはDELETE
を入力し、データダンプをロードします。私の知る限り、これをすばやく簡単に行う方法はありません。
SELECT 'TRUNCATE ' || input_table_name || ' CASCADE;' AS truncate_query FROM(SELECT table_schema || '.' || table_name AS input_table_name FROM information_schema.tables WHERE table_schema NOT IN ('pg_catalog', 'information_schema') AND table_schema NOT LIKE 'pg_toast%') AS information;
上記のクエリは、データベース内のすべてのテーブルに対して切り捨てクエリを生成します。
注:私の答えは、テーブルやその他のデータベースオブジェクトを本当に削除することです。 すべてのデータを削除する in テーブル、つまりすべてのテーブルを切り捨てる 、Endre Bothは、1か月後に同様によく実行される(直接実行)ステートメントを提供しました。
DROP SCHEMA public CASCADE;
、DROP OWNED BY current_user;
などを使用できない場合のために、私が作成したスタンドアロンのSQLスクリプトを示します。これはトランザクションセーフです(つまり、BEGIN;
の間に置くことができます)。 ROLLBACK;
だけでテストするか、COMMIT;
で実際に実行します)、「すべての」データベースオブジェクトをクリーンアップします。まあ、アプリケーションで使用するデータベースで使用したものすべて、または賢明に追加できます。それは:
CHECK
、UNIQUE
)VIEW
s(通常または具体化)public
またはDB内部ではない)スキーマ「私たち」が所有:スクリプトは、「データベーススーパーユーザーではない」として実行する場合に役立ちます。スーパーユーザーは all schemataをドロップできます(ただし、本当に重要なものはまだ明示的に除外されています)ドロップされていません(いくつかは意図的です;一部は私たちのDBに例がなかったためだけです):
public
スキーマ(拡張機能が提供するものなど)これは本当に復元したいダンプが異なるデータベーススキーマバージョンのものである場合に便利です(例:Debian dbconfig-common
、Flywayを使用)またはLiquibase/DB-Manul)を復元したいデータベースよりも。
誰かが興味を持っている場合に備えて、「2つのテーブルとそれらに属するものを除くすべて」(手動でテストされた、申し訳ありませんが、退屈なシーケンス)を削除するバージョンもあります。差分は小さいです。私に連絡するか、 このリポジトリを確認してください 興味がある場合。
-- Copyright © 2019, 2020
-- mirabilos <[email protected]>
--
-- Provided that these terms and disclaimer and all copyright notices
-- are retained or reproduced in an accompanying document, permission
-- is granted to deal in this work without restriction, including un‐
-- limited rights to use, publicly perform, distribute, sell, modify,
-- merge, give away, or sublicence.
--
-- This work is provided “AS IS” and WITHOUT WARRANTY of any kind, to
-- the utmost extent permitted by applicable law, neither express nor
-- implied; without malicious intent or gross negligence. In no event
-- may a licensor, author or contributor be held liable for indirect,
-- direct, other damage, loss, or other issues arising in any way out
-- of dealing in the work, even if advised of the possibility of such
-- damage or existence of a defect, except proven that it results out
-- of said person’s immediate fault when using the work as intended.
-- -
-- Drop everything from the PostgreSQL database.
DO $$
DECLARE
q TEXT;
r RECORD;
BEGIN
-- triggers
FOR r IN (SELECT pns.nspname, pc.relname, pt.tgname
FROM pg_catalog.pg_trigger pt, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace AND pc.oid=pt.tgrelid
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pt.tgisinternal=false
) LOOP
EXECUTE format('DROP TRIGGER %I ON %I.%I;',
r.tgname, r.nspname, r.relname);
END LOOP;
-- constraints #1: foreign key
FOR r IN (SELECT pns.nspname, pc.relname, pcon.conname
FROM pg_catalog.pg_constraint pcon, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace AND pc.oid=pcon.conrelid
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pcon.contype='f'
) LOOP
EXECUTE format('ALTER TABLE ONLY %I.%I DROP CONSTRAINT %I;',
r.nspname, r.relname, r.conname);
END LOOP;
-- constraints #2: the rest
FOR r IN (SELECT pns.nspname, pc.relname, pcon.conname
FROM pg_catalog.pg_constraint pcon, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace AND pc.oid=pcon.conrelid
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pcon.contype<>'f'
) LOOP
EXECUTE format('ALTER TABLE ONLY %I.%I DROP CONSTRAINT %I;',
r.nspname, r.relname, r.conname);
END LOOP;
-- indicēs
FOR r IN (SELECT pns.nspname, pc.relname
FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pc.relkind='i'
) LOOP
EXECUTE format('DROP INDEX %I.%I;',
r.nspname, r.relname);
END LOOP;
-- normal and materialised views
FOR r IN (SELECT pns.nspname, pc.relname
FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pc.relkind IN ('v', 'm')
) LOOP
EXECUTE format('DROP VIEW %I.%I;',
r.nspname, r.relname);
END LOOP;
-- tables
FOR r IN (SELECT pns.nspname, pc.relname
FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pc.relkind='r'
) LOOP
EXECUTE format('DROP TABLE %I.%I;',
r.nspname, r.relname);
END LOOP;
-- sequences
FOR r IN (SELECT pns.nspname, pc.relname
FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
WHERE pns.oid=pc.relnamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pc.relkind='S'
) LOOP
EXECUTE format('DROP SEQUENCE %I.%I;',
r.nspname, r.relname);
END LOOP;
-- extensions (only if necessary; keep them normally)
FOR r IN (SELECT pns.nspname, pe.extname
FROM pg_catalog.pg_extension pe, pg_catalog.pg_namespace pns
WHERE pns.oid=pe.extnamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
) LOOP
EXECUTE format('DROP EXTENSION %I;', r.extname);
END LOOP;
-- aggregate functions first (because they depend on other functions)
FOR r IN (SELECT pns.nspname, pp.proname, pp.oid
FROM pg_catalog.pg_proc pp, pg_catalog.pg_namespace pns, pg_catalog.pg_aggregate pagg
WHERE pns.oid=pp.pronamespace
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
AND pagg.aggfnoid=pp.oid
) LOOP
EXECUTE format('DROP AGGREGATE %I.%I(%s);',
r.nspname, r.proname,
pg_get_function_identity_arguments(r.oid));
END LOOP;
-- routines (functions, aggregate functions, procedures, window functions)
IF EXISTS (SELECT * FROM pg_catalog.pg_attribute
WHERE attrelid='pg_catalog.pg_proc'::regclass
AND attname='prokind' -- PostgreSQL 11+
) THEN
q := 'CASE pp.prokind
WHEN ''p'' THEN ''PROCEDURE''
WHEN ''a'' THEN ''AGGREGATE''
ELSE ''FUNCTION''
END';
ELSIF EXISTS (SELECT * FROM pg_catalog.pg_attribute
WHERE attrelid='pg_catalog.pg_proc'::regclass
AND attname='proisagg' -- PostgreSQL ≤10
) THEN
q := 'CASE pp.proisagg
WHEN true THEN ''AGGREGATE''
ELSE ''FUNCTION''
END';
ELSE
q := '''FUNCTION''';
END IF;
FOR r IN EXECUTE 'SELECT pns.nspname, pp.proname, pp.oid, ' || q || ' AS pt
FROM pg_catalog.pg_proc pp, pg_catalog.pg_namespace pns
WHERE pns.oid=pp.pronamespace
AND pns.nspname NOT IN (''information_schema'', ''pg_catalog'', ''pg_toast'')
' LOOP
EXECUTE format('DROP %s %I.%I(%s);', r.pt,
r.nspname, r.proname,
pg_get_function_identity_arguments(r.oid));
END LOOP;
-- nōn-default schemata we own; assume to be run by a not-superuser
FOR r IN (SELECT pns.nspname
FROM pg_catalog.pg_namespace pns, pg_catalog.pg_roles pr
WHERE pr.oid=pns.nspowner
AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast', 'public')
AND pr.rolname=current_user
) LOOP
EXECUTE format('DROP SCHEMA %I;', r.nspname);
END LOOP;
-- voilà
RAISE NOTICE 'Database cleared!';
END; $$;
PostgreSQL 9.6(jessie-backports
)で、後で追加(extensions
は ClémentPrévost によって提供)を除いてテスト済み。 9.6と12.2で集計の削除をテストし、12.2でも手順の削除をテストしました。バグ修正とさらなる改善を歓迎します!