Pybind11绑定std::function回调报参数不兼容的正确实现方法

• Reply类型定义为std::function<void(Result, std::exception_ptr)>，pybind11没有提供std::exception_ptr和Python侧自定义Exception类型的默认转换逻辑，自动生成的函数签名会错误将第二个参数识别为你绑定的Exception类，导致参数校验不通过。
• 你配置了py::gil_scoped_release在执行C函数时释放GIL，但C侧触发回调时没有重新获取GIL，哪怕类型匹配也会触发段错误。
• 直接绑定成员函数时，没有做Python回调对象的生命周期托管，Python侧的回调函数可能被垃圾回收，导致C++持有野指针。

不要直接绑定原始成员函数，用lambda做一层包装，完成类型转换、GIL管理、生命周期托管：

// 前置：正确绑定Result枚举
py::enum_<My::namespace::Result>(m, "Result")
    .value("OK", My::namespace::Result::Ok)
    .value("NOT_OK", My::namespace::Result::NOT_OK);

py::class_<APIExtProvider>(m, "APIExtProvider")
    .def("acceptCall", [](APIExtProvider& self, py::function py_cb) {
        // 将Python可调用对象包装为符合Reply签名的C++回调
        My::namespace::Reply cpp_cb = [py_cb](My::namespace::Result res, std::exception_ptr err_ptr) {
            // 操作Python对象前必须获取GIL
            py::gil_scoped_acquire gil;
            try {
                py::object py_err = py::none();
                // 转换异常指针：有错误时转成Python可识别的对象
                if (err_ptr) {
                    try {
                        std::rethrow_exception(err_ptr);
                    } catch (const std::exception& e) {
                        // 如需传自定义异常实例，替换为你的异常类构造逻辑即可
                        py_err = py::str(e.what());
                    }
                }
                // 调用Python回调
                py_cb(py::cast(res), py_err);
            } catch (py::error_already_set& e) {
                // 捕获Python回调抛出的异常，避免穿透C++层导致崩溃
                e.restore();
                PyErr_Print();
            }
        };
        // 执行C++逻辑时释放GIL，避免阻塞Python主线程
        py::gil_scoped_release release_gil;
        self.acceptCall(cpp_cb);
    }, py::keep_alive<1, 2>()); // 保证回调对象在C++持有期间不被GC回收

你不需要提前实例化Exception对象，回调参数是C++侧传入的，正确写法：

def reply_method(result, error):
    if error is not None:
        print(f"调用出错: {error}")
        return
    print(f"调用成功, 结果: {result}")

provider.acceptCall(reply_method)

• 涉及std::exception_ptr的std::function不要依赖pybind11的自动转换，必须手动做参数适配，默认转换逻辑不识别该类型。
• 所有释放GIL后执行的代码，只要涉及Python对象操作、Python函数调用，必须提前通过py::gil_scoped_acquire拿回GIL。
• py::keep_alive<1,2>是必须的，它会保证传入的回调函数生命周期不短于APIExtProvider实例，避免野指针。
• 如果需要使用自定义Python异常类型，只需要在异常转换逻辑中，将捕获的C++异常信息传入你绑定的异常类构造函数，生成实例传给回调即可。

内容的提问来源于stack exchange，提问作者Manish Singh