XLA纯C FFI层开发：如何返回指向GlobalData的指针？

我来帮你拆解这个问题——你遇到的核心问题是手动复制GlobalData对象并释放原实例的操作，会导致底层的服务端handle被提前回收，这和GlobalData的设计逻辑直接相关。

为什么你的代码会报错？ #

xla::GlobalData本质是一个轻量的包装器，它本身不存储实际数据，只持有一个指向XLA服务端资源的handle。当你调用xla::GlobalData::Release或者让unique_ptr自动析构时，客户端会向服务端发送请求，释放这个handle对应的资源——不管你有没有复制出新的GlobalData对象。

你代码里的问题在于：

• 你复制了一个新的GlobalData对象，但它只是复用了同一个handle，并没有让服务端为这个handle保留多一份资源；
• 随后你调用Release释放了原global_data，这直接触发了服务端的资源回收逻辑，导致后续使用该handle时，服务端提示“handle已被释放”。

正确的实现方式 #

想要在FFI层返回GlobalData的裸指针，你需要转移原unique_ptr的所有权到堆上，而不是复制后释放原对象。这样既能保留服务端的资源，又能让FFI调用方拿到可用的指针。

修改后的代码如下：

xla::GlobalData* fn(xla::LocalClient* client, xla::Literal literal) {
    // 通过TransferToServer获取GlobalData的unique_ptr
    std::unique_ptr<xla::GlobalData> global_data = client->TransferToServer(literal).ConsumeValueOrDie();
    // 调用release()释放unique_ptr的所有权，返回裸指针
    // 此时原unique_ptr不再管理该对象，GlobalData的析构函数不会被触发
    return global_data.release();
}

后续的资源管理注意事项 #

因为我们把GlobalData的所有权转移到了FFI层，所以必须在调用方不再需要这个指针时，手动触发资源释放：

1. 额外写一个FFI导出函数，用于销毁GlobalData指针：

extern "C" void destroy_xla_global_data(xla::GlobalData* data) {
    // 手动删除指针，触发GlobalData的析构函数
    // 析构函数会自动通知服务端释放对应的handle资源
    delete data;
}

2. 在C代码中，当你用完GlobalData指针后，调用这个destroy_xla_global_data函数，避免内存泄漏和服务端资源残留。

关键误区总结 #

• 不要手动复制GlobalData对象：每个GlobalData实例都会在析构时尝试释放handle，多个实例复用同一个handle会导致重复释放的问题；
• 不要随意调用xla::GlobalData::Release或client->Unregister：这些操作会直接通知服务端回收资源，除非你确定不再需要该handle对应的 data；
• unique_ptr的release()是转移所有权的正确方式：它不会触发对象析构，只是把指针的控制权从智能指针交出去。

内容的提问来源于stack exchange，提问作者joel