Postgres FDW进程间内存共享及外部表初始化对象复用方案咨询

核心思路 #

Postgres采用多进程/线程架构，每个查询请求由独立后端进程处理，进程间内存完全隔离，无法直接共享对象实例。需结合进程内缓存+持久化配置存储或后台工作进程托管两种方向实现复用，以下是具体可行方案：

方案1：进程内缓存+外部表选项存储（推荐，实现简单） #

该方案让每个后端进程仅初始化一次对象实例，复用至进程退出，兼顾性能与实现复杂度。

实现步骤 #

1. 扩展初始化时创建进程内缓存
   在扩展的_PG_init函数中，创建基于哈希表的进程内缓存，以外部表OID或关联的ForeignServer OID为键，存储API类实例：

static HTAB *api_instance_cache;

void _PG_init(void) {
    HASHCTL hash_ctl;
    memset(&hash_ctl, 0, sizeof(hash_ctl));
    hash_ctl.keysize = sizeof(Oid);
    hash_ctl.entrysize = sizeof(APIInstanceEntry); // 自定义结构体，存OID和实例指针
    api_instance_cache = hash_create("MyFDW API Instance Cache", 32, &hash_ctl, HASH_ELEM | HASH_BLOBS);
    // 注册进程退出时的清理函数
    on_shmem_exit(cleanup_api_cache, NULL);
}

2. VALIDATOR函数中验证并持久化配置
   在CREATE FOREIGN TABLE时，VALIDATOR函数负责验证API配置参数（如地址、密钥）的有效性，同时将这些参数存入外部表的options字段，后续用于实例初始化：

Datum myfdw_validator(PG_FUNCTION_ARGS) {
    List *options = PG_GETARG_LIST_P(0);
    Oid catalog = PG_GETARG_OID(1);

    // 验证API参数有效性，可提前尝试初始化一次确保参数正确
    char *api_endpoint = get_foreign_option(options, "api_endpoint", false);
    char *api_key = get_foreign_option(options, "api_key", false);
    if (!validate_api_params(api_endpoint, api_key)) {
        ereport(ERROR, (errmsg("Invalid API parameters")));
    }

    // 将参数存入外部表选项（自动持久化到系统表）
    options = add_foreign_table_option(options, "api_endpoint", api_endpoint);
    options = add_foreign_table_option(options, "api_key", api_key);

    PG_RETURN_VOID();
}

3. FdwRoutine与UDF中复用实例
   在FdwRoutine函数（如myfdw_scan_begin）或自定义UDF中，先通过外部表OID查询进程内缓存，不存在则用存储的参数初始化实例并缓存：

APIInstance *get_api_instance(Oid foreign_table_oid) {
    APIInstanceEntry *entry;
    bool found;

    // 检查进程内缓存
    entry = hash_search(api_instance_cache, &foreign_table_oid, HASH_FIND, &found);
    if (found) {
        return entry->instance;
    }

    // 从外部表获取配置参数
    ForeignTable *ftable = GetForeignTable(foreign_table_oid);
    char *api_endpoint = get_foreign_option(ftable->options, "api_endpoint", true);
    char *api_key = get_foreign_option(ftable->options, "api_key", true);

    // 初始化API实例
    APIInstance *instance = api_init(api_endpoint, api_key);
    if (!instance) {
        ereport(ERROR, (errmsg("Failed to initialize API instance")));
    }

    // 存入缓存
    entry = hash_search(api_instance_cache, &foreign_table_oid, HASH_ENTER, &found);
    entry->instance = instance;
    return instance;
}

在UDF中调用时，只需传入外部表名称或OID即可获取实例：

Datum myfdw_udf_get_api_status(PG_FUNCTION_ARGS) {
    text *table_name = PG_GETARG_TEXT_P(0);
    Oid table_oid = get_relname_relid(text_to_cstring(table_name), InvalidOid);
    APIInstance *instance = get_api_instance(table_oid);
    // 调用API方法
    bool status = api_check_status(instance);
    PG_RETURN_BOOL(status);
}

方案2：后台工作进程托管全局实例（适合强全局唯一需求） #

如果API实例无法在多进程中存在（如独占资源、单连接限制），可将实例托管在Postgres后台工作进程中，所有后端进程通过IPC通信调用API。

实现步骤 #

1. 注册后台工作进程
   在扩展初始化时，注册后台工作进程并指定启动函数：

void _PG_init(void) {
    BackgroundWorker worker;
    memset(&worker, 0, sizeof(worker));
    worker.bgw_name = "MyFDW API Worker";
    worker.bgw_function = api_worker_main;
    worker.bgw_type = "myfdw_api_worker";
    worker.bgw_flags = BGWORKER_SHMEM_ACCESS | BGWORKER_BACKEND_DATABASE_CONNECTION;
    RegisterBackgroundWorker(&worker);
}

2. VALIDATOR函数中触发实例初始化
   在VALIDATOR函数中，检查后台工作进程是否已启动，若未启动则触发启动，并通过共享内存传递外部表的API配置参数：

Datum myfdw_validator(PG_FUNCTION_ARGS) {
    // 验证参数...
    // 检查后台工作进程状态，若未运行则传递配置并启动
    if (!api_worker_is_running()) {
        shmem_set_api_config(api_endpoint, api_key);
        StartBackgroundWorker("myfdw_api_worker");
    }
    PG_RETURN_VOID();
}

3. FdwRoutine与UDF通过IPC调用API
   后端进程通过Postgres的SendSignalToBackgroundWorker或共享内存消息队列，向后台工作进程发送请求并获取API调用结果：

bool myfdw_api_call(const char *request, char **response) {
    // 构造消息并发送给后台工作进程
    return send_api_request_to_worker(request, response);
}

关键注意事项 #

• 内存管理：进程内缓存的实例需在进程退出时清理，避免内存泄漏，通过on_shmem_exit注册清理函数。
• 并发安全：共享内存中的配置或状态需用自旋锁（SpinLock）保护，防止多进程并发修改。
• 参数加密：若API密钥等敏感信息存入外部表选项，需加密存储，避免明文泄露。

内容的提问来源于stack exchange，提问作者Vlad Keel