Qt项目调用外部BigInt DLL触发Segmentation fault问题求助

以下是具体排查和解决方向：

• 检查函数调用约定一致性
  VS默认C++函数调用约定为__cdecl，若DLL中expBigInt使用了其他约定（如__stdcall），Qt侧typedef未对应会导致栈损坏触发段错误。
  修改typedef明确指定调用约定，比如DLL用__cdecl则写成：

  typedef string (__cdecl *func)(string a, string b);
  

  必须和DLL导出函数时的调用约定完全匹配。

• 验证字符串类型跨模块兼容性
  VS的std::string基于MSVC STL实现，若Qt项目使用MinGW编译（GNU STL），两者std::string内存布局不兼容，跨模块传递会引发内存访问错误。
  建议改用C风格字符串替代：

  1. 修改DLL导出函数为const char* expBigInt(const char* a, const char* b)，确保返回的字符串用malloc分配内存；
  2. Qt侧typedef改为：

     typedef const char* (*func)(const char*, const char*);
     

  3. 调用后将返回的C字符串转为QString或std::string，最后用free释放原C字符串避免内存泄漏。

• 严格校验DLL加载与函数地址获取
  当前代码未检查LoadLibrary和GetProcAddress的返回值，若DLL加载失败或函数地址获取失败，调用空指针会直接触发段错误。补充错误检查：

  HINSTANCE myDDL = LoadLibrary(L".\\BigIntDLL.dll");
  if (!myDDL) {
      qDebug() << "DLL加载失败，错误码：" << GetLastError();
      return;
  }
  typedef string (__cdecl *func)(string a, string b);
  func expBigInt = (func)GetProcAddress(myDDL, "expBigInt");
  if (!expBigInt) {
      qDebug() << "获取函数地址失败，错误码：" << GetLastError();
      FreeLibrary(myDDL);
      return;
  }
  

  同时确认DLL路径：Qt运行时工作目录可能不是项目根目录（如Debug模式下在build-xxx-Debug文件夹），需将DLL放到程序运行目录，或使用绝对路径加载。

• 确保内存分配器统一
  若DLL用new分配内存返回std::string，而Qt项目使用不同CRT（如VS用MSVCRT，Qt用MinGW CRT），跨模块释放内存会导致堆损坏。
  解决方式：要么统一用相同编译器和CRT版本编译DLL与Qt项目，要么改用malloc/free管理跨模块传递的内存。

• 匹配编译环境ABI
  VS编译的DLL基于MSVC ABI，若Qt项目用MinGW编译，两者二进制接口不兼容，直接调用必然引发内存错误。需确保Qt项目使用MSVC编译器套件编译，而非MinGW。

内容的提问来源于stack exchange，提问作者Prince Chen