C#调用C++ DLL的Open函数打开COM端口失败求助

使用相同参数调用同一C++ DLL时，C++代码可成功通过Open()函数打开COM端口，但C#调用该函数始终返回-1，原因不明。

DLL头文件定义 #

extern "C" __declspec (dllexport) int Open(char* serialNo, int nBaud, int timeout);

最初的C#实现 #

导入代码：

[DllImport(dllLocation)]
private static extern int Open(byte[] serialNo, int nBuad, int timeout);

调用代码：

char[] inp = new char[4];
inp[0] = 'C';
inp[1] = 'O';
inp[2] = 'M';
inp[3] = '6';
res = Open(inp, 115200, 10);

对应的C++示例代码 #

char com[20] = { 0 };
cin >> com;
int hdl = Open(com, 115200, 10);

已尝试的解决方案（均无效） #

• 使用字符串调用并指定Marshal类型：

  [DllImport(dllLocation)]
  private static extern int Open([MarshalAs(UnmanagedType.LPStr)] string serialNo, int nBuad, int timeout);
  

  调用代码：

  string inp = "COM6";
  int res = Open(inp, 115200, 10);
  

• 给字符数组添加终止符：

  char[] inp = new char[5];
  inp[0] = 'C';
  inp[1] = 'O';
  inp[2] = 'M';
  inp[3] = '6';
  inp[4] = '\0';
  

• 使用字节数组传递参数：
  导入代码不变，调用代码：

  byte[] inp = new byte[4];
  inp[0] = 67;
  inp[1] = 79;
  inp[2] = 77;
  inp[3] = 54;
  int res = Open(inp, 115200, 10);
  

排查方向与解决建议 #

1. 修正调用约定：C++默认调用约定为__cdecl，但C#的DllImport默认是StdCall，栈不平衡会导致参数传递错误。需显式指定调用约定，同时修正参数名拼写错误（nBuad→nBaud）：

   [DllImport(dllLocation, CallingConvention = CallingConvention.Cdecl)]
   private static extern int Open([MarshalAs(UnmanagedType.LPStr)] string serialNo, int nBaud, int timeout);
   

2. 确保字符串终止符正确：C++的char*要求以\0结尾的ASCII字符串，可尝试传递包含终止符的字节数组：

   byte[] inp = Encoding.ASCII.GetBytes("COM6\0");
   int res = Open(inp, 115200, 10);
   

3. 检查权限：尝试以管理员身份运行C#程序，确认程序有访问COM端口的权限。

4. 确认端口状态：检查COM6是否被其他进程占用，可通过设备管理器或端口工具查看端口状态。

5. 匹配DLL位数：确保C#程序的目标平台（x86/x64）与C++ DLL的编译位数完全一致，位数不匹配会导致调用失败。

6. 调试DLL内部逻辑：如果条件允许，在C++ DLL中添加日志输出，或附加调试器到C#进程，查看serialNo参数的实际传递值，以及Open函数内部的错误触发点。

内容的提问来源于stack exchange，提问作者George Gayton