使用nanobind跨线程管理GIL与对象：回调崩溃问题求解

我基于TaskFlow实现了一个小型框架，并用Nanobind完成C++到Python的包装。框架完成图评估后会触发注册的回调函数，但注册Python函数时程序崩溃，错误信息如下：

Critical nanobind error: nanobind::detail::incref_check(): attempted to change the reference count of a Python object while the GIL was not held.

相关代码：
Nanobind绑定代码：

.def("set_graph_evaluation_finish_callback", &PyScene::set_graph_evaluation_finish_callback)

PyScene成员函数实现：

void PyScene::set_graph_evaluation_finish_callback(
    nb::callable cb) {
    nb::gil_scoped_acquire gil;
    callback = std::move(cb);
    scene.setGraphEvaluationFinishCallback([this]() {
        nb::gil_scoped_acquire gil;
        if (this->callback)
            this->callback();
        std::cout << "C++ lambda reached (no GIL)\n";
    });
}

我推测问题源于Python线程与调用lambda的TaskFlow工作线程之间的冲突，请问该如何解决？

崩溃原因 #

1. C++变量竞态问题：callback（nb::callable类型）的读写没有同步。Python线程调用set_graph_evaluation_finish_callback赋值callback，TaskFlow工作线程在lambda中读取它，二者存在数据竞争，可能导致nb::callable内部的Python对象指针失效。
2. 线程未注册到Python：TaskFlow的工作线程是原生C++线程，没被Python线程系统注册，直接获取GIL会引发引用计数操作异常。

解决办法 #

1. 给callback加互斥锁保护

在PyScene类里加一个std::mutex成员，确保callback的读写都是原子操作：

// PyScene类定义
class PyScene {
private:
    std::mutex callback_mutex;
    nb::callable callback;
    // 其他成员...
};

修改set_graph_evaluation_finish_callback函数：

void PyScene::set_graph_evaluation_finish_callback(
    nb::callable cb) {
    nb::gil_scoped_acquire gil;
    std::lock_guard<std::mutex> lock(callback_mutex);
    callback = std::move(cb);
    
    scene.setGraphEvaluationFinishCallback([this]() {
        std::lock_guard<std::mutex> lock(callback_mutex);
        nb::gil_scoped_acquire gil;
        
        if (this->callback) {
            this->callback();
        }
        std::cout << "C++ lambda reached (with GIL)\n";
    });
}

2. 初始化Python线程系统

在模块初始化时调用PyEval_InitThreads()，启用Python多线程支持：

NB_MODULE(your_module_name, m) {
    // 初始化Python线程系统
    PyEval_InitThreads();
    
    // 其他绑定代码...
    m.def("set_graph_evaluation_finish_callback", &PyScene::set_graph_evaluation_finish_callback);
}

3. 避免悬空指针

确保PyScene对象的生命周期长于TaskFlow任务，防止lambda捕获的this失效。如果PyScene可能提前销毁，要在析构函数中取消回调：

PyScene::~PyScene() {
    std::lock_guard<std::mutex> lock(callback_mutex);
    // 取消注册回调
    scene.setGraphEvaluationFinishCallback(nullptr);
    
    nb::gil_scoped_acquire gil;
    // 重置callable，释放Python对象引用
    callback = nb::callable();
}

关键注意点 #

• 必须先获取互斥锁，再获取GIL，避免C++层面的数据竞争。
• 所有操作nb::callable的代码（判断是否为空、调用）都要在GIL持有状态下执行。
• PyEval_InitThreads()是原生线程操作Python对象的前提，不能省略。

内容的提问来源于stack exchange，提问作者Prashant