使用CreateFile打开串口成功但SetCommState设置通信状态失败求助

我来帮你梳理几个SetCommState调用失败的排查方向，你可以一步步来检查：

首先一定要调用GetLastError()拿到具体的错误编号，这是最快定位问题的方式——比如错误码87（ERROR_INVALID_PARAMETER）通常是DCB结构体参数有问题，错误码6（ERROR_INVALID_HANDLE）则是串口句柄异常（不过你说CreateFile成功，这个可能性偏低）。

1. 检查DCB结构体的定义是否正确 #

你的dcbType结构体存在几个关键问题：

• 字段Bits1的命名和类型都不对：它对应Win32 DCB结构里由fBinary、fParity等控制位组成的DWORD类型Flags字段，应该把类型改成Integer（Win32的DWORD是32位无符号整数，VB.NET的Integer是32位有符号，传递给API时可以兼容），而不是Long（64位），否则结构体的内存布局会完全错位。
• 字段顺序必须严格和Win32官方DCB结构一致，你可以对照官方定义调整：

  typedef struct _DCB {
    DWORD DCBlength;
    DWORD BaudRate;
    DWORD fBinary : 1;
    DWORD fParity : 1;
    DWORD fOutxCtsFlow : 1;
    DWORD fOutxDsrFlow : 1;
    DWORD fDtrControl : 2;
    DWORD fDsrSensitivity : 1;
    DWORD fTXContinueOnXoff : 1;
    DWORD fOutX : 1;
    DWORD fInX : 1;
    DWORD fErrorChar : 1;
    DWORD fNull : 1;
    DWORD fRtsControl : 2;
    DWORD fAbortOnError : 1;
    DWORD fDummy2 : 17;
    WORD wReserved;
    WORD XonLim;
    WORD XoffLim;
    BYTE ByteSize;
    BYTE Parity;
    BYTE StopBits;
    char XonChar;
    char XoffChar;
    char ErrorChar;
    char EofChar;
    char EvtChar;
    WORD wReserved1;
  } DCB, *LPDCB;
  

2. 必须初始化DCBlength字段 #

在调用SetCommState之前，一定要设置DCB.DCBlength = Marshal.SizeOf(GetType(dcbType))，明确告诉API结构体的大小。如果这个值不正确，API会直接返回失败。

3. 先获取默认状态再修改参数 #

不要手动初始化整个DCB结构体，很多默认的控制位标志你可能遗漏了。正确的流程是：

• 调用GetCommState(hPort, DCB)获取当前串口的默认状态
• 修改你需要的参数（比如波特率、字节数、奇偶校验、停止位等）
• 再调用SetCommState(hPort, DCB)

这样能避免因缺少必要标志导致的参数错误。

4. 修正API函数声明的类型匹配问题 #

你的几个API声明存在类型不兼容的问题，这也会导致调用失败：

• CreateFile的返回值应该用IntPtr，而不是Long——VB.NET的Long是64位，但Win32的HANDLE在32位系统是32位，IntPtr可以兼容32/64位系统，避免句柄值被截断。
• SetCommState的返回值应该是Boolean（对应Win32的BOOL），而不是Long；第二个参数必须用ByRef传递，因为API需要读取结构体的内容，你的声明里lpDCB As dcbType要改成ByRef lpDCB As dcbType。
• 其他如GetCommState、SetupComm这类返回BOOL的API，也应该把返回值类型改成Boolean，而不是Long。

5. 检查串口参数的合法性 #

确保你设置的参数都是系统和硬件支持的：

• 波特率：使用9600、115200这类标准值，避免非标准波特率（除非硬件明确支持）
• ByteSize：必须是5-8之间的数值
• Parity：对应你定义的NOPARITY/ODDPARITY等常量，值要在0-4之间
• StopBits：只能是ONESTOPBIT(0)、ONE5STOPBITS(1)、TWOSTOPBITS(2)这三个值

示例修正后的代码片段 #

比如修正DCB定义和SetCommState调用的核心部分：

<StructLayout(LayoutKind.Sequential)>
Structure dcbType
    Public DCBlength As Integer ' 对应DWORD，用Integer
    Public BaudRate As Integer ' DWORD
    Public Flags As Integer ' 替换原来的Bits1，对应所有位标志
    Public wReserved As Integer
    Public XonLim As Integer
    Public XoffLim As Integer
    Public ByteSize As Byte
    Public Parity As Byte
    Public StopBits As Byte
    Public XonChar As Byte
    Public XoffChar As Byte
    Public ErrorChar As Byte
    Public EofChar As Byte
    Public EvtChar As Byte
    Public wReserved1 As Integer
End Structure

' 修正SetCommState声明
<DllImport("kernel32.dll")>
Private Shared Function SetCommState(ByVal hCommDev As IntPtr, ByRef lpDCB As dcbType) As Boolean
End Function

' 调用流程示例
hPort = CreateFile("COM1", GENERIC_READ Or GENERIC_WRITE, 0, 0, OPEN_EXISTING, 0, IntPtr.Zero)
If hPort <> IntPtr.op_Explicit(-1) Then
    Dim dcb As dcbType
    ' 先获取当前串口状态
    If GetCommState(hPort, dcb) Then
        ' 设置DCB结构体长度
        dcb.DCBlength = Marshal.SizeOf(GetType(dcbType))
        ' 修改需要的参数
        dcb.BaudRate = 9600
        dcb.ByteSize = 8
        dcb.Parity = NOPARITY
        dcb.StopBits = ONESTOPBIT
        ' 设置必要的控制标志
        dcb.Flags = fBinary Or fParity ' 根据需求添加其他标志
        ' 调用SetCommState
        If SetCommState(hPort, dcb) Then
            ' 设置成功
        Else
            Dim errCode As Integer = GetLastError()
            Console.WriteLine($"SetCommState失败，错误码：{errCode}")
        End If
    End If
End If

内容的提问来源于stack exchange，提问作者George Zumwalt