Linux下Matlab mex静态链接CryptoPP跳转未引用so导致冻结问题

这是Linux平台动态链接的**全局符号介入（Global Symbol Interposition）**规则导致的，和是否静态链接CryptoPP没有直接关系：

• Matlab进程启动时会预先加载自带的libmwflcryptocryptopp.so，库内包含了完整的CryptoPP库导出符号
• mex文件本质是Linux动态库（.so文件），默认编译配置下，所有未显式隐藏的全局符号都允许被动态链接器重定向
• 你静态链接的cryptopp-static中的非内联CryptoPP函数符号，会被动态链接器优先绑定到进程全局作用域中已经存在的Matlab自带CryptoPP符号，而不是你静态链入的本地代码
• 从栈追踪可以验证：PumpAll2是头文件内实现的模板函数，直接编译进了你的mex文件，所以运行的是本地代码；但它调用的非模板普通函数TransferAllTo2被重定向到了Matlab自带的so，两个CryptoPP版本不兼容就会出现冻结、崩溃等异常。

按可靠性从高到低排序：

• 方案1：给CryptoPP加自定义命名空间前缀（最彻底）
  编译本地CryptoPP库时，添加编译宏CRYPTOPP_NAMESPACE_PREFIX=MyLocal，此时所有CryptoPP的符号都会被放到MyLocal::CryptoPP命名空间下，和Matlab自带的CryptoPP符号完全隔离，不会出现任何冲突。修改代码中所有CryptoPP相关的引用为MyLocal::CryptoPP即可。
• 方案2：隐藏mex文件的内部导出符号
  在CMakeLists中添加编译和链接配置，避免静态链入的CryptoPP符号被导出、被重定向：

  # 编译参数：隐藏默认符号
  target_compile_options(${PROJECT_NAME} PRIVATE -fvisibility=hidden -fvisibility-inlines-hidden)
  # 链接参数：排除libcryptopp.a的所有符号导出
  target_link_options(${PROJECT_NAME} PRIVATE -Wl,--exclude-libs,libcryptopp.a)
  

  该方案不需要修改CryptoPP和业务代码，适配成本低。
• 方案3：强制Matlab用RTLD_DEEPBIND加载mex
  在mex的mexFunction入口前添加构造函数属性的代码，调整动态链接符号解析规则，优先使用mex内部的符号，该方案适配性最差，不同Matlab版本可能不兼容，不推荐。

内容的提问来源于stack exchange，提问作者keinkoenig