CreatePipe调用成功但未生成有效句柄，VBA管道创建问题

问题根源 #

核心问题是VBA调用Win32 API时，输出参数必须通过ByRef传递。CreatePipe的前两个句柄参数属于输出型参数（API需要将创建好的句柄写入变量），如果声明时误用了ByVal，API内部的修改无法同步到VBA的变量中，就会出现返回成功但句柄仍为初始无效值的情况。

额外需要注意适配64位Office环境（Office 365默认是64位）：必须使用PtrSafe修饰API声明，句柄变量要声明为LongPtr而非旧的Long类型。

正确实现方案 #

1. 适配64位的Win32 API声明 #

Option Explicit

' 核心API声明，注意参数传递方式
Private Declare PtrSafe Function CreatePipe Lib "kernel32" ( _
    ByRef hReadPipe As LongPtr, _
    ByRef hWritePipe As LongPtr, _
    ByRef lpPipeAttributes As SECURITY_ATTRIBUTES, _
    ByVal nSize As Long _
) As LongPtr

Private Declare PtrSafe Function GetLastError Lib "kernel32" () As Long
Private Declare PtrSafe Function CloseHandle Lib "kernel32" ( _
    ByVal hObject As LongPtr _
) As LongPtr

' 辅助结构体定义
Private Type SECURITY_ATTRIBUTES
    nLength As Long
    lpSecurityDescriptor As LongPtr
    bInheritHandle As Long
End Type

2. 管道创建的测试代码 #

Sub TestPipeCreation()
    Dim pipeAttr As SECURITY_ATTRIBUTES
    Dim stdout_r As LongPtr, stdout_w As LongPtr
    Dim apiResult As LongPtr
    
    ' 初始化安全属性，允许子进程继承管道句柄
    pipeAttr.nLength = Len(pipeAttr)
    pipeAttr.bInheritHandle = 1 ' 关键配置：开启句柄继承
    pipeAttr.lpSecurityDescriptor = 0
    
    ' 调用CreatePipe，注意句柄参数是ByRef传递
    apiResult = CreatePipe(stdout_r, stdout_w, pipeAttr, 0)
    
    If apiResult = 0 Then
        Debug.Print "管道创建失败，错误码：" & GetLastError()
    Else
        Debug.Print "管道创建成功"
        Debug.Print "读句柄：" & stdout_r
        Debug.Print "写句柄：" & stdout_w
        
        ' 用完必须关闭句柄，避免系统资源泄漏
        CloseHandle stdout_r
        CloseHandle stdout_w
    End If
End Sub

3. 关键注意事项 #

• 参数传递：CreatePipe的前两个句柄参数必须用ByRef，这是让API修改VBA变量的核心前提。
• 64位适配：所有句柄类型用LongPtr，API声明加PtrSafe，否则在64位Office中会出现内存错误或参数传递异常。
• 句柄继承：如果要让子进程使用管道，必须设置SECURITY_ATTRIBUTES.bInheritHandle = 1，后续调用CreateProcess时也要指定bInheritHandles = 1，并在STARTUPINFO中绑定对应管道句柄到子进程的标准输入/输出。
• 资源清理：所有打开的句柄必须用CloseHandle关闭，防止系统资源泄漏。

内容的提问来源于stack exchange，提问作者Lex