PInvoke调用C库时，调用系统分配内存的Win32函数触发Access Violation

核心原因分析 #

这类Access Violation错误几乎都和指针传递/内存管理不匹配或编译位数不兼容有关，和进程权限、C#内存安全设置无关（除非是极特殊的内存保护场景，但你的情况不涉及）。以下是针对性的解决步骤：

1. 强制匹配C库与C#进程的编译位数 #

• 如果你用Visual Studio编译C库：确保项目属性中平台工具集的位数（x86/x64）和C#项目的目标平台完全一致（比如C库编译为x86，C#项目必须设置为x86，不能用Any CPU）。
• 位数不匹配会导致指针长度（32位vs64位）错位，直接触发内存访问错误，这是最常见的诱因。

2. 检查C库的函数封装正确性 #

对于系统分配内存的Win32函数（如NetLocalGroupEnum、CredUIPromptForWindowsCredentials），C库必须正确传递指针的指针参数，不能直接传递指针。举个例子：

错误的C库封装（导致内存写入错误） #

// 错误：bufptr是LPBYTE而非LPBYTE*，NetLocalGroupEnum无法正确写入系统分配的内存地址
DWORD MyNetLocalGroupEnum(LPCWSTR server, DWORD level, LPBYTE bufptr, ...)
{
    return NetLocalGroupEnum(server, level, &bufptr, ...); // 这里取地址也不对，因为bufptr是局部变量
}

正确的C库封装 #

// 正确：接收LPBYTE*类型的参数，直接传递给Win32函数
DWORD WINAPI MyNetLocalGroupEnum(LPCWSTR server, DWORD level, LPBYTE* bufptr, DWORD prefmaxlen, LPDWORD entriesread, LPDWORD totalentries, PDWORD_PTR resumehandle)
{
    return NetLocalGroupEnum(server, level, bufptr, prefmaxlen, entriesread, totalentries, resumehandle);
}

注意：C库函数必须使用WINAPI（即__stdcall）调用约定，和Win32函数保持一致，否则PInvoke时会因栈不平衡触发内存错误。

3. 修正C#端的PInvoke声明 #

针对C库的正确封装，C#的PInvoke必须用ref IntPtr接收系统分配的内存指针，同时指定正确的调用约定和字符集：

示例：MyNetLocalGroupEnum的PInvoke声明 #

[DllImport("YourCLib.dll", CallingConvention = CallingConvention.StdCall, CharSet = CharSet.Unicode)]
public static extern uint MyNetLocalGroupEnum(
    string server,
    uint level,
    ref IntPtr bufptr,
    uint prefmaxlen,
    out uint entriesread,
    out uint totalentries,
    ref uint resumehandle
);

示例：配套的内存释放函数（必须调用） #

系统分配的内存必须用对应Win32 API释放，不能用C#的Marshal.FreeHGlobal，比如NetLocalGroupEnum的内存用NetApiBufferFree释放：

[DllImport("netapi32.dll", CallingConvention = CallingConvention.StdCall)]
public static extern uint NetApiBufferFree(IntPtr buffer);

// 调用流程示例
IntPtr groupBuffer = IntPtr.Zero;
uint entriesRead = 0;
uint totalEntries = 0;
uint resumeHandle = 0;

try
{
    uint result = MyNetLocalGroupEnum(null, 1, ref groupBuffer, uint.MaxValue, out entriesRead, out totalEntries, ref resumeHandle);
    if (result == 0)
    {
        // 解析groupBuffer中的数据，比如用Marshal.PtrToStructure循环读取
        IntPtr currentPtr = groupBuffer;
        for (int i = 0; i < entriesRead; i++)
        {
            LOCALGROUP_INFO_1 groupInfo = Marshal.PtrToStructure<LOCALGROUP_INFO_1>(currentPtr);
            // 处理groupInfo数据
            currentPtr += Marshal.SizeOf<LOCALGROUP_INFO_1>();
        }
    }
}
finally
{
    if (groupBuffer != IntPtr.Zero)
    {
        NetApiBufferFree(groupBuffer);
    }
}

对于CredUIPromptForWindowsCredentials，则需要调用CredFree释放返回的凭据内存，逻辑完全一致。

4. 排查CredUIPromptForWindowsCredentials的特殊问题 #

这个函数的CREDUI_INFO结构体传递容易出错：

• C#中必须正确声明CREDUI_INFO，并确保cbSize字段赋值为结构体的大小：

[StructLayout(LayoutKind.Sequential, CharSet = CharSet.Unicode)]
public struct CREDUI_INFO
{
    public int cbSize;
    public IntPtr hwndParent;
    public string pszMessageText;
    public string pszCaptionText;
    public IntPtr hbmBanner;
}

// 使用时必须初始化cbSize
var credUiInfo = new CREDUI_INFO();
credUiInfo.cbSize = Marshal.SizeOf<CREDUI_INFO>();

• 如果C库封装时错误地修改了CREDUI_INFO的内存，或者传递了错误的指针，也会触发Access Violation。

排除进程权限与C#内存安全设置的误区 #

• 进程权限：Access Violation错误不是权限不足导致的，权限问题会返回明确的Win32错误码（如ERROR_ACCESS_DENIED），而非内存访问错误。
• C#内存安全设置：不需要开启unsafe代码，也不需要修改项目的内存安全选项，只要PInvoke声明和C库封装正确，就能正常工作。

内容的提问来源于stack exchange，提问作者Robot