Android平台Vulkan自定义层dlopen调用失效问题问询

问题背景 #

我实现了一个用于收集内存信息的Vulkan自定义层memory_layer，预期流程在Linux下正常运行，但在Android平台中，调用dlopen获取memory_info_write_out函数句柄后，无法写入层采集的信息。排查发现libmemory_layer.so被重复加载到不同内存地址，新实例的上下文未复用Vulkan加载器已初始化的实例。

问题1：Android平台用dlopen调用Vulkan层函数是否正确？ #

这不是正确方式。Android的Bionic动态链接器与GNU实现存在核心差异：Vulkan加载器加载自定义层时使用的是自身的加载逻辑，直接调用dlopen同名库会创建独立的库实例，你拿到的函数句柄指向的是全新的、未采集任何数据的实例，自然无法获取之前收集的内存信息。

问题2：如何确保dlopen复用已有上下文？ #

以下是几种可行方案，按推荐优先级排序：

方案1：通过Vulkan扩展机制暴露功能（最规范）

自定义一个Vulkan扩展（比如VK_EXT_memory_layer_dump），在扩展中定义专门的导出命令（如vkMemoryLayerWriteOutInfoEXT）。应用程序可以通过vkGetInstanceProcAddr获取该命令的函数指针，完全遵循Vulkan标准流程，跨平台兼容性最好。

示例步骤：

1. 在自定义层中注册扩展，添加vkMemoryLayerWriteOutInfoEXT命令的实现；
2. 应用程序创建Vulkan实例后，调用vkGetInstanceProcAddr获取命令指针：

PFN_vkMemoryLayerWriteOutInfoEXT vkMemoryLayerWriteOutInfo = 
    (PFN_vkMemoryLayerWriteOutInfoEXT)vkGetInstanceProcAddr(instance, "vkMemoryLayerWriteOutInfoEXT");

3. 需要导出数据时直接调用该指针即可。

方案2：在层中暴露全局函数指针（快速验证）

在libmemory_layer.so中定义全局函数指针，指向memory_info_write_out：

// 自定义层代码中
void memory_info_write_out(const char* path) {
    // 原有实现
}

void (*g_memory_info_write_out)(const char*) = memory_info_write_out;

应用程序中直接声明该外部变量，无需调用dlopen：

// 应用程序代码中
extern void (*g_memory_info_write_out)(const char*);

// 需要导出时调用
if (g_memory_info_write_out) {
    g_memory_info_write_out("/sdcard/memory_info.log");
}

注意：需确保全局变量的可见性（编译时不要用static修饰），同时处理线程安全问题。

方案3：尝试使用RTLD_NOLOAD参数（兼容性差）

调用dlopen时添加RTLD_NOLOAD标志，告诉Bionic链接器不要加载新实例，而是返回已加载的库句柄：

void *handle = dlopen("libmemory_layer.so", RTLD_LAZY | RTLD_NOLOAD);
if (handle != NULL) {
    void (*memory_info_write_out)(const char*) = 
        (void (*)(const char*))dlsym(handle, "memory_info_write_out");
    // 调用函数
    dlclose(handle);
}

该方案依赖Bionic的具体实现，若Vulkan加载器加载库时使用了RTLD_LOCAL等隔离标志，可能仍无法复用实例，仅作为临时尝试方案。

内容的提问来源于stack exchange，提问作者Jack