C# .NET Core通过非托管C++ DLL订阅Windows消息的问题

我来帮你梳理下这些问题，毕竟用P/Invoke对接Windows消息系统确实容易踩这类细节坑😉

一、如何获取进程句柄或创建空窗口（.NET Core支持吗？） #

首先得明确一个核心误区：进程句柄（Process.Handle）和窗口句柄（HWND）是完全不同的东西！你要订阅Windows消息，需要的是窗口句柄（HWND），进程句柄只能用来操作进程本身（比如终止进程、获取进程权限），根本接收不到任何窗口消息。

.NET Core完全支持创建空消息窗口，哪怕不用WinForms/WPF，直接调用Windows API就能实现。下面给你一个极简的隐藏消息窗口示例，专门用来接收消息：

using System;
using System.Runtime.InteropServices;

public class HiddenMessageWindow
{
    // 窗口过程委托，必须保留引用防止GC回收
    private readonly WndProc _wndProcDelegate;
    private IntPtr _hwnd;

    private delegate IntPtr WndProc(IntPtr hWnd, uint msg, IntPtr wParam, IntPtr lParam);

    [DllImport("user32.dll", CharSet = CharSet.Unicode)]
    private static extern IntPtr CreateWindowEx(
        uint dwExStyle,
        string lpClassName,
        string lpWindowName,
        uint dwStyle,
        int x, int y, int nWidth, int nHeight,
        IntPtr hWndParent,
        IntPtr hMenu,
        IntPtr hInstance,
        IntPtr lpParam);

    [DllImport("user32.dll", SetLastError = true)]
    private static extern ushort RegisterClassW([In] ref WNDCLASS lpWndClass);

    [StructLayout(LayoutKind.Sequential, CharSet = CharSet.Unicode)]
    private struct WNDCLASS
    {
        public uint style;
        public WndProc lpfnWndProc;
        public int cbClsExtra;
        public int cbWndExtra;
        public IntPtr hInstance;
        public IntPtr hIcon;
        public IntPtr hCursor;
        public IntPtr hbrBackground;
        public string lpszMenuName;
        public string lpszClassName;
    }

    [DllImport("user32.dll")]
    private static extern IntPtr DefWindowProc(IntPtr hWnd, uint msg, IntPtr wParam, IntPtr lParam);

    public HiddenMessageWindow()
    {
        _wndProcDelegate = WindowProcHandler;
        
        // 注册窗口类
        var wc = new WNDCLASS
        {
            lpfnWndProc = _wndProcDelegate,
            lpszClassName = "MyPrivateMessageWindow",
            hInstance = Marshal.GetHINSTANCE(typeof(HiddenMessageWindow).Module)
        };
        RegisterClassW(ref wc);

        // 创建隐藏窗口
        _hwnd = CreateWindowEx(
            0,
            wc.lpszClassName,
            "",
            0,
            0, 0, 0, 0,
            IntPtr.Zero,
            IntPtr.Zero,
            wc.hInstance,
            IntPtr.Zero);
    }

    public IntPtr WindowHandle => _hwnd;

    // 在这里处理你需要的消息
    private IntPtr WindowProcHandler(IntPtr hWnd, uint msg, IntPtr wParam, IntPtr lParam)
    {
        switch (msg)
        {
            case 0x004A: // 示例：处理WM_COPYDATA消息
                // 你的消息处理逻辑写在这里
                break;
            // 可以添加更多消息类型的处理
        }
        return DefWindowProc(hWnd, msg, wParam, lParam);
    }
}

二、Process.GetCurrentProcess().Handle 和 ToPointer() 能有效获取句柄吗？ #

直接给结论：这两个拿到的都是进程句柄，不是你需要的窗口句柄，用来接收消息完全无效。

• Process.GetCurrentProcess().Handle 返回的是IntPtr类型的进程句柄（对应C++里的HANDLE），和HWND是不同类型的句柄，两者不能混用。
• ToPointer()只是把IntPtr转换成void*，本质还是进程句柄，没有任何帮助。

三、如何将句柄封送到C++的HWND类型？ #

IntPtr确实是.NET里对应C++原生句柄（包括HWND、HANDLE等）的正确类型，但前提是你传递的是正确的HWND，而不是进程句柄。

正确的封送步骤： #

假设你的C++ DLL有这样的导出函数：

extern "C" __declspec(dllexport) void RegisterMessageListener(HWND hWnd)
{
    // 在这里注册消息监听逻辑，比如用SetWindowsHookEx或者绑定消息回调
}

那么C#里的P/Invoke声明应该是：

[DllImport("YourCppDll.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern void RegisterMessageListener(IntPtr hWnd);

然后把之前创建的空窗口句柄传进去即可：

var msgWindow = new HiddenMessageWindow();
RegisterMessageListener(msgWindow.WindowHandle);

为什么之前用IntPtr不行？ #

大概率是你传递的是进程句柄而非窗口句柄，导致C++那边拿到的HWND是无效值，自然无法接收消息。

额外注意事项 #

• 一定要保留窗口过程委托的引用（比如示例里的_wndProcDelegate），否则.NET的GC会回收它，导致窗口过程失效，程序直接崩溃。
• 如果你的C++代码需要主动发消息到这个窗口，可以用PostMessage或SendMessage的P/Invoke调用，同样传递IntPtr类型的窗口句柄即可。
• 如果你本来就用WinForms或WPF开发，其实可以直接用现有窗口的Handle属性（比如Form.Handle或WindowInteropHelper.Handle），不用自己创建空窗口，更省事。

内容的提问来源于stack exchange，提问作者Aistis Taraskevicius