Marshal.GetLastWin32Error()始终返回0的排查及IntPtr相关疑问

嘿，我来帮你拆解这几个问题，一步步解决你的困惑：

首先先看你提供的代码片段：

[DllImport("Advapi32.dll", SetLastError = true)] 
static extern IntPtr OpenSCManagerW(string lpMachineName, string lpDatabaseName, int dwDesiredAccess);

Console.WriteLine("Getting the SCM handle...");
IntPtr SCManagerHandle = OpenSCManagerW(null, "shihihihihi", SC_MANAGER_ALL_ACCESS);
if (SCManagerHandle != IntPtr.Zero) {
    Console.WriteLine("SCM handle successfully retrieved.");
} else {
    string ErrorMessage = "The SCM handle could not be retrieved because ";
    int ErrorCode = Marshal.GetLastWin32Error();
    if (ErrorCode == ERROR_ACCESS_DENIED) {
        ErrorMessage += "the requested access was denied.";
    } else if (ErrorCode == ERROR_DATABASE_DOES_NOT_EXIST) {
        ErrorMessage += "the target database does not exist.";
    } else {
        ErrorMessage += S_UNKNOWN + ErrorCode;
    }
    ThrowError(ErrorMessage);
}

接下来逐个解决你的疑问：

1. 错误码始终返回0的原因 #

你遇到的核心问题是调用Marshal.GetLastWin32Error()之前，托管代码的操作覆盖了Win32错误码。

Console.WriteLine这类托管方法内部可能会调用底层Win32 API，而这些API会修改GetLastError()返回的值。当你在OpenSCManagerW调用后先执行Console.WriteLine，再去获取错误码时，原来的错误信息已经被覆盖了，所以拿到的是0。

解决方法很简单：在调用Win32 API后立即获取错误码，不要插入任何其他托管操作。修改后的代码应该是这样：

Console.WriteLine("Getting the SCM handle...");
IntPtr SCManagerHandle = OpenSCManagerW(null, "shihihihihi", SC_MANAGER_ALL_ACCESS);
// 立即获取错误码，不要放在else块里——即使句柄非零，也可能有警告级别的错误
int ErrorCode = Marshal.GetLastWin32Error(); 

if (SCManagerHandle != IntPtr.Zero) {
    Console.WriteLine("SCM handle successfully retrieved.");
} else {
    string ErrorMessage = "The SCM handle could not be retrieved because ";
    if (ErrorCode == ERROR_ACCESS_DENIED) {
        ErrorMessage += "the requested access was denied.";
    } else if (ErrorCode == ERROR_DATABASE_DOES_NOT_EXIST) {
        ErrorMessage += "the target database does not exist.";
    } else {
        ErrorMessage += $"unknown error (code: {ErrorCode})";
    }
    ThrowError(ErrorMessage);
}

这样就能正确拿到ERROR_DATABASE_DOES_NOT_EXIST的错误码了。

2. IntPtr.Zero与null的比较问题 #

首先纠正一个误解：IntPtr是值类型，不是引用类型。它的设计目的就是用来表示平台无关的指针或句柄，大小在32位系统是4字节，64位是8字节。

• IntPtr.Zero是IntPtr的默认值，对应Win32中的NULL指针/句柄。
• 在C#中，当你把IntPtr和null比较时，编译器会自动将null隐式转换为IntPtr.Zero，所以SCManagerHandle != null和SCManagerHandle != IntPtr.Zero的效果是完全一样的。
• DllImport不会把IntPtr.Zero转换为null——Win32 API返回的NULL会被直接 marshaling为IntPtr.Zero。

你之前“始终显示成功”的问题，大概率也是因为错误码被覆盖后，误以为句柄有效，但实际上OpenSCManagerW已经返回了IntPtr.Zero，只是你后续的操作干扰了错误码的获取。

3. 32位进程中int*能否替代IntPtr？ #

在32位进程中，int*和IntPtr的内存大小确实都是4字节，但强烈不建议替换，原因有这几点：

1. 语义混淆：SCM句柄是不透明的系统资源标识，不是指向int类型的指针，用int*会让代码可读性变差，也不符合API设计的语义。
2. 平台兼容性：如果你的代码未来要运行在64位进程中，int*依然是4字节，而IntPtr会变成8字节，这会导致句柄被截断，直接引发程序崩溃或错误。
3. Marshaling风险：DllImport对int*和IntPtr的 marshaling规则不同，使用int*可能会导致意外的内存错误，尤其是在处理跨平台或复杂类型时。

所以无论什么平台，都应该坚持使用IntPtr来表示Win32句柄或指针。

内容的提问来源于stack exchange，提问作者Jackson Tarisa