引言

PostgreSQL 中的外部数据封装器（Foreign Data Wrapper, FDW）是一种扩展，允许您像访问 PostgreSQL 数据库中的表一样，访问和操作存储在外部数据源中的数据。FDW 使 PostgreSQL 能够与多种数据存储系统（包括关系型和非关系型）进行集成，并以统一的方式在 PostgreSQL 环境中呈现这些数据。将一个表拆分成多个位于远程的较小表的操作也称为  sharding。外部数据库节点有时被称为外部分片或简略为分片。在本文中，我们将探讨在使用  postgres_fdw 处理外部 SELECT 查询时，其内部的具体工作流程。

以下是一些背景历史：

• 2003 年，SQL 标准中新增了一个名为 SQL/MED（SQL 管理外部数据）的规范，该标准定义了远程访问数据库的SQL规范。
• 2011 年，PostgreSQL 9.1 版本发布，开始支持此标准的只读操作。
• 2013 年，新增了对写入操作的支持。
• 当前有许多不同的 FDW 可供使用，允许 PostgreSQL 连接到各种远程数据存储（包括其他关系型数据库管理系统到平面文件等）。
• 这些 FDW 大多数没有 PostgreSQL 全球开发组（PGDG）的官方支持，一些项目仍处于 beta 阶段。请谨慎使用！

一些与 FDW 相关的文档：

• https://wiki.postgresql.org/wiki/Foreign_data_wrappers
• https://pgxn.org/tag/fdw/
• https://www.postgresql.org/docs/15/fdwhandler.html

配置一个简单的 FDW 环境

在配置之前，请确保已将  postgresql_fdw 扩展编译并安装到您的 PostgreSQL 二进制安装路径中。我们将配置一个由 1 个协调节点和 4 个外部数据节点组成的分片环境。

初始化所有数据库实例

$ initdb -D c1$ initdb -D d1$ initdb -D d2$ initdb -D d3$ initdb -D d4

编辑 d1 到 d4 节点的配置文件，并将它们的端口号分别更改为 5433、5434、5435、5436，同时保持 c1 节点运行在默认端口 5432。这样做的原因是我们将在同一台机器上运行所有节点以便演示。

在 C1 节点：

postgres=# CREATE EXTENSION postgres_fdw;
postgres=# CREATE SERVER s1 FOREIGN DATA WRAPPER postgres_fdw OPTIONS (dbname 'postgres', host '127.0.0.1', port '5433');
postgres=# CREATE SERVER s2 FOREIGN DATA WRAPPER postgres_fdw OPTIONS (dbname 'postgres', host '127.0.0.1', port '5434');
postgres=# CREATE SERVER s3 FOREIGN DATA WRAPPER postgres_fdw OPTIONS (dbname 'postgres', host '127.0.0.1', port '5435');
postgres=# CREATE SERVER s4 FOREIGN DATA WRAPPER postgres_fdw OPTIONS (dbname 'postgres', host '127.0.0.1', port '5436');
postgres=# CREATE USER MAPPING for postgres SERVER s1 OPTIONS(user 'postgres');
postgres=# CREATE USER MAPPING for postgres SERVER s2 OPTIONS(user 'postgres');
postgres=# CREATE USER MAPPING for postgres SERVER s3 OPTIONS(user 'postgres');
postgres=# CREATE USER MAPPING for postgres SERVER s4 OPTIONS(user 'postgres');
postgres=# CREATE TABLE t (a INT, b TEXT) PARTITION BY RANGE;
postgres=# CREATE TABLE t_local PARTITION OF t FOR VALUES FROM (1) TO (1000);
postgres=# CREATE FOREIGN TABLE t_s1 PARTITION OF t FOR VALUES FROM (1001) TO (2000) SERVER s1 OPTIONS(schema_name 'public', table_name 't');
postgres=# CREATE FOREIGN TABLE t_s2 PARTITION OF t FOR VALUES FROM (2001) TO (3000) SERVER s1 OPTIONS(schema_name 'public', table_name 't');
postgres=# CREATE FOREIGN TABLE t_s3 PARTITION OF t FOR VALUES FROM (3001) TO (4000) SERVER s1 OPTIONS(schema_name 'public', table_name 't');
postgres=# CREATE FOREIGN TABLE t_s4 PARTITION OF t FOR VALUES FROM (4001) TO (5000) SERVER s1 OPTIONS(schema_name 'public', table_name 't');

在所有数据节点：

postgres=# CREATE TABLE t (a INT, b TEXT);

到此为止，我们完成了一个简单的 postgres_fdw 设置。当数据插入到 c1 节点的 t 表时，数据可以存储在 c1 节点本地（范围 1 到 1000），也可以根据范围值分发到外部节点（d1 ~ d4）。

从外部节点查询数据

Postgres_fdw 并不会简单地转发您的 SELECT 查询并将其发送到外部节点处理，等待响应。这种方式的性能极低。与常规的 SELECT 查询一样，外部查询也需要仔细的分析和规划，以确保性能。远程查询通常包括以下几个步骤：

• 分析器 – 创建查询树

  • 根据  pg_catalog.pg_class 和  pg_catalog.pg_foreign_table 中的外部表定义创建查询树。

• 连接到外部服务器

  • 规划器从  pg_catalog.pg_foreign_server 和  pg_catalog.pg_user_mapping 获取网络和用户映射信息。
  • 通过 FDW 连接到远程服务器。
  • Postgres_fdw 使用 libpq 连接到远程 PostgreSQL 数据库。

• 规划

  • 规划器使用 EXPLAIN 命令创建计划树。
  • Postgres_fdw 支持使用 EXPLAIN 获取远程表的统计信息，但也可以使用本地默认值。
  • EXPLAIN 返回远程服务器的启动成本和总成本，允许规划器准确评估语句。
  • use_remote_estimate 参数可以通过 ALTER SERVER 修改（默认关闭）。

• 反解析

  • 规划器生成的计划树通过 FDW 获取了远程服务器的扫描路径。
  • Postgres_fdw 负责解析计划树并重构一组适合远程服务器的 SQL 语句。

• 扩展查询协议 + 游标

  • Postgres_fdw 使用扩展查询协议，并借助游标从远程节点检索或获取数据。
  • 它使用可重复读的隔离级别，以确保在事务期间数据的一致性，不会被其他并发事务更改。

相关的 FDW API

在访问远程服务器执行查询之前，规划器会调用  IsForeignScanParallelSafe()、 GetForeignPlan() 和  GetForeignPaths() 来了解远程数据的规模，并确定是否将 WHERE 条件评估本地执行或外部执行等。

准备好之后，使用 BeginForeignScan 和 IterateForeignScan 来获取一行或多行数据。
最后，通过 EndForeignScan 释放资源，包括释放已分配的内存、打开的文件和连接到外部数据源的连接等。

• IsForeignScanParallelSafe()

  • 是否支持并行扫描。如果支持，当执行大量数据的 SELECT 时，可以启动多个工作进程并行执行。

• GetForeignRelSize()

  • 获取远程表的大小估算。规划器在扫描开始前调用。

• GetForeignPaths()

  • 获取所有可能的远程表扫描执行路径，并将每个扫描路径添加到扫描路径列表中。

• GetForeignPlan()

  • 在查询规划的最后阶段，从选定的访问路径创建 ForeignScan 计划节点。
  • 此函数非常重要，它包含要输出的目标列表、执行的 WHERE 语句以及由谁执行。

• BeginForeignScan()

  • 准备执行远程扫描。负责扫描开始前的必要初始化工作。

• IterateForeignScan()

  • 从远程节点获取一行数据，并将其返回为元组槽，结束时返回 NULL。

• EndForeignScan()

  • 结束扫描并释放资源。释放通过 palloc 分配的内存，清理打开的文件和连接到远程服务器的连接。

总结

本文对  postgres_fdw 内部工作原理的快速概述，涵盖了 SELECT 查询的基本知识。