测试JNA调用WriteFile函数时无法捕获控制台输出的问题排查

核心原因 #

JUnit Pioneer的@StdIo注解仅能捕获**Java标准库（System.out/System.err）**输出的内容，而你通过JNA直接调用Windows原生WriteFile函数时，是直接写入系统级别的标准输出句柄，完全绕开了Java的IO流体系，因此StdOut无法捕获这部分内容。

代码中的基础错误修正 #

先解决代码里的明显问题，否则后续测试会持续报错：

1. 参数类型不匹配：WriteFile定义的lpBuffer是byte[]类型，你传入的字符串"Hello, world"需要转成字节数组（注意匹配Windows控制台编码，Win11建议用UTF-8）
2. 句柄类型错误：JNA中Windows句柄应使用WinNT.HANDLE，而非自定义的Handle
3. 拼写错误：MatcherAssert.asssertThat多了一个s，需改为assertThat
4. 缺失导入：补充IntByReference、WinNT.HANDLE、OVERLAPPED等类的导入

修正后的Kernel32.java：

import com.sun.jna.Native;
import com.sun.jna.win32.StdCallLibrary;
import com.sun.jna.win32.W32APIOptions;
import com.sun.jna.ptr.IntByReference;
import com.sun.jna.platform.win32.WinNT;
import com.sun.jna.platform.win32.WinBase;

public interface Kernel32 extends StdCallLibrary {
    Kernel32 INSTANCE = Native.load("Kernel32", Kernel32.class, W32APIOptions.DEFAULT_OPTIONS);

    WinNT.HANDLE GetStdHandle(int nStdHandle);

    boolean WriteFile(
        WinNT.HANDLE hFile,
        byte[] lpBuffer,
        int nNumberOfBytesToWrite,
        IntByReference lpNumberOfBytesWritten,
        WinBase.OVERLAPPED lpOverlapped
    );
}

修正后的WriteFileFunctionCall.java：

import com.sun.jna.ptr.IntByReference;
import com.sun.jna.platform.win32.WinNT;
import com.sun.jna.platform.win32.WinBase;

public class WriteFileFunctionCall {
    public static void make() {
        final IntByReference written = new IntByReference();
        byte[] buffer = "Hello, world".getBytes(java.nio.charset.StandardCharsets.UTF_8);
        WinNT.HANDLE stdOut = Kernel32.INSTANCE.GetStdHandle(WinBase.STD_OUTPUT_HANDLE);
        Kernel32.INSTANCE.WriteFile(stdOut, buffer, buffer.length, written, null);
    }

    // 用于子进程测试的main方法
    public static void main(String[] args) {
        make();
    }
}

可行的测试方案 #

要验证JNA调用WriteFile的输出，需绕开Java的IO层，直接捕获系统原生的标准输出，以下是两种实用方法：

方法1：Windows管道重定向 #

通过Windows API创建匿名管道，将当前进程的标准输出重定向到管道，再从管道读取内容：

import com.sun.jna.platform.win32.*;
import com.sun.jna.ptr.IntByReference;
import org.junit.jupiter.api.Test;
import static org.hamcrest.MatcherAssert.assertThat;
import static org.hamcrest.Matchers.equalTo;

class WriteFileTest {
    @Test
    void capturesNativeOutputViaPipe() {
        // 创建匿名管道
        WinBase.SECURITY_ATTRIBUTES sa = new WinBase.SECURITY_ATTRIBUTES();
        sa.bInheritHandle = true;
        WinBase.HANDLE[] pipeRead = new WinBase.HANDLE[1];
        WinBase.HANDLE[] pipeWrite = new WinBase.HANDLE[1];
        assert Kernel32.INSTANCE.CreatePipe(pipeRead, pipeWrite, sa, 0);

        WinNT.HANDLE originalStdOut = Kernel32.INSTANCE.GetStdHandle(WinBase.STD_OUTPUT_HANDLE);
        try {
            // 重定向标准输出到管道写端
            assert Kernel32.INSTANCE.SetStdHandle(WinBase.STD_OUTPUT_HANDLE, pipeWrite[0]);

            // 执行JNA调用
            WriteFileFunctionCall.make();
            Kernel32.INSTANCE.FlushFileBuffers(pipeWrite[0]);
            Kernel32.INSTANCE.CloseHandle(pipeWrite[0]);

            // 读取管道内容
            byte[] buffer = new byte[1024];
            IntByReference bytesRead = new IntByReference();
            Kernel32.INSTANCE.ReadFile(pipeRead[0], buffer, buffer.length, bytesRead, null);
            String captured = new String(buffer, 0, bytesRead.getValue(), java.nio.charset.StandardCharsets.UTF_8).trim();

            assertThat(captured, equalTo("Hello, world"));
        } finally {
            // 恢复原标准输出句柄
            Kernel32.INSTANCE.SetStdHandle(WinBase.STD_OUTPUT_HANDLE, originalStdOut);
            Kernel32.INSTANCE.CloseHandle(pipeRead[0]);
        }
    }
}

方法2：子进程捕获输出 #

将Java程序作为子进程运行，直接捕获子进程的标准输出，实现更简单：

import org.junit.jupiter.api.Test;
import java.io.BufferedReader;
import java.io.InputStreamReader;
import static org.hamcrest.MatcherAssert.assertThat;
import static org.hamcrest.Matchers.equalTo;

class WriteFileTest {
    @Test
    void capturesOutputViaSubprocess() throws Exception {
        // 启动子进程运行目标类
        Process process = new ProcessBuilder(
            "java", "-cp", System.getProperty("java.class.path"), WriteFileFunctionCall.class.getName()
        ).start();

        // 读取子进程输出
        BufferedReader reader = new BufferedReader(
            new InputStreamReader(process.getInputStream(), java.nio.charset.StandardCharsets.UTF_8)
        );
        String captured = reader.readLine().trim();
        process.waitFor();

        assertThat(captured, equalTo("Hello, world"));
    }
}

总结 #

• @StdIo仅针对Java层IO，无法捕获原生系统API的输出
• 测试原生输出需使用系统级管道重定向或子进程捕获方案
• 先修正代码中的类型、拼写等基础错误，再进行测试验证

内容的提问来源于stack exchange，提问作者Max Trunnikov