Linux下.NET Core互操作调用约定异常：返回Union时应用崩溃

看起来你遇到了.NET Core与C++共享库交互时的典型调用约定/类型布局问题，结合你提供的环境信息和gdb排查结果，我整理了几个核心排查方向和解决方案：

1. 先确认Union类型的Interop声明完全匹配 #

C++的Union在.NET中的声明很容易踩坑，这是这类崩溃的头号原因：

• 必须使用[StructLayout(LayoutKind.Explicit)]显式指定每个成员的偏移，保证和C侧的内存布局完全一致。比如你的C Union是这样的：

  union ResultUnion {
      const char* message;
      int error_code;
  };
  

  对应的C#声明应该是：

  [StructLayout(LayoutKind.Explicit)]
  public struct ResultUnion
  {
      [FieldOffset(0)]
      public IntPtr Message;
      [FieldOffset(0)]
      public int ErrorCode;
  }
  

• 注意字节对齐问题：GCC默认的对齐规则和.NET可能有差异，你可以在C++编译时加-fpack-struct=8，或者在C#的StructLayout里指定Pack=8来匹配，避免因为对齐导致的内存偏移错误。

2. 检查调用约定的显式声明 #

Linux下.NET Core Interop默认使用Cdecl调用约定，但如果你的C++函数有特殊修饰（比如罕见的__stdcall），或者函数参数传递不符合System V AMD64调用约定，就会出现寄存器值错位：

• 务必在[DllImport]里显式指定调用约定，比如：

  [DllImport("your-lib.so", CallingConvention = CallingConvention.Cdecl)]
  public static extern ResultUnion GetNativeResult();
  

• 回忆下你的C++函数是否带参数？如果有，要确保C#里的参数顺序、类型完全对应——x86_64 Linux下第一个参数存在RDI，第二个在RSI，一旦参数不匹配，RDI里就会出现无效值，和你看到的现象完全吻合。

3. 规避.NET Core 2.1的已知Interop Bug #

.NET Core 2.1在Linux下处理返回Union类型的原生函数时，确实存在一些已修复的Bug，尤其是在返回值的寄存器处理上：

• 优先尝试升级到.NET Core 2.1的最新补丁版本（比如2.1.30+），微软后续补丁修复了不少Interop的布局和调用约定问题；
• 如果升级受限，建议把返回Union的逻辑改成通过指针参数输出，这是更稳定的变通方案：
  C++侧修改为：

  extern "C" void GetNativeResult(ResultUnion* out_result) {
      // 填充out_result的逻辑
  }
  

  C#侧对应声明：

  [DllImport("your-lib.so", CallingConvention = CallingConvention.Cdecl)]
  public static extern void GetNativeResult(ref ResultUnion outResult);
  

  这种方式绕过了返回值处理的潜在问题，很多生产环境都会用这种方式避免Union返回的坑。

4. 排查GCC编译选项的影响 #

你提到编译命令是g++ -Wall...，要检查几个关键选项：

• 确保加了-fPIC（编译共享库必须），否则可能出现代码位置相关的错误；
• 不要加-m32这类强制32位的选项——如果你的.NET Core是64位的，调用32位共享库必然导致寄存器参数完全错位；
• 可以尝试用-O0编译（关闭优化），排除GCC高级优化对函数返回值/参数的内存布局修改，先验证基础逻辑是否正确。

5. 进一步定位的小技巧 #

• 用nm -D your-lib.so查看导出的函数符号，确认是否因为C名字修饰导致.NET找不到正确的函数——如果没加extern "C"，C函数名会被修饰，这时候要么在DllImport里用完整修饰名，要么给C++函数加上extern "C"导出C风格符号；
• 在gdb里给原生函数入口设断点，查看调用时的寄存器值，对比预期的参数/返回值，就能快速区分是.NET传递参数错误，还是原生函数内部的问题。

内容的提问来源于stack exchange，提问作者Candide Guevara Marino