Unity中C#实现兼容C++ DLL可变参数函数指针的回调方案

背景 #

我正在使用xatlas的C++动态链接库，其中导出函数xatlasSetPrint的签名为：

__declspec(dllexport) void xatlasSetPrint(xatlasPrintFunc print, bool verbose)

xatlasPrintFunc是类似C语言printf的可变参数函数指针，定义如下：

typedef int (*xatlasPrintFunc)(const char *, ...);

我的目标是在Unity（C# 9、.NET Standard 2.1）中调用该函数，设置打印回调并通过UnityEngine.Debug.Log记录日志。我希望尽量避免编写额外的C++适配库，保持项目简洁。

尝试过的临时方案（仅少数场景有效） #

我编写了以下C#代码，但多数情况下失效：

打印回调实现 #

using AOT;
using System;
using System.Runtime.InteropServices;

public static class PrintFormat
{
    const string msvcrtDll = "msvcrt.dll";

    [MonoPInvokeCallback(typeof(PrintFunc))] // IL2CPP环境下必需，否则可选
    public unsafe static int Printf(IntPtr PStr_format, byte args)
    {
        int count = _vscprintf(PStr_format, ref args) + 1;
        var buffer = stackalloc byte[count];
        IntPtr pbuffer = (nint)buffer;
        int retcode = vsprintf(pbuffer, PStr_format, ref args);
        // 目标是替换成UnityEngine.Debug.Log
        Console.Write(Marshal.PtrToStringAnsi(pbuffer));
        return retcode;
    }

    [DllImport(msvcrtDll, CallingConvention = CallingConvention.Cdecl)]
    public static extern int vsprintf(IntPtr buffer, IntPtr PStr_format, ref byte args);

    [DllImport(msvcrtDll, CallingConvention = CallingConvention.Cdecl)]
    public static extern int _vscprintf(IntPtr PStr_format, ref byte args);
}

P/Invoke声明 #

[UnmanagedFunctionPointer(CallingConvention.Cdecl)]
public delegate int PrintFunc(IntPtr PStr_format, byte args);

[DllImport(DLL, CallingConvention = CallingConvention.Cdecl, EntryPoint = "xatlasSetPrint")]
public static extern void SetPrint(PrintFunc print, bool verbose);

使用方式 #

SetPrint(PrintFormat.Printf, true);

我试过相关的解决方案但都无效，现在需要可行的处理办法。

核心思路 #

C#无法直接兼容C风格的可变参数函数指针回调，两者的可变参数处理机制完全不同。但可以借助系统标准库的va_list相关函数，结合C# unsafe代码正确处理参数列表，同时适配IL2CPP环境。

修正后的实现代码 #

using AOT;
using System;
using System.Runtime.InteropServices;
using UnityEngine;

public static class XAtlasLogger
{
#if UNITY_WIN
    private const string StdLib = "msvcrt.dll";
#elif UNITY_LINUX
    private const string StdLib = "libc.so.6";
#elif UNITY_OSX
    private const string StdLib = "libSystem.B.dylib";
#endif

    // 匹配xatlasPrintFunc的正确签名：用IntPtr传递原生va_list指针
    [UnmanagedFunctionPointer(CallingConvention.Cdecl)]
    private delegate int XAtlasPrintFunc(IntPtr format, IntPtr vaList);

    [DllImport("xatlas.dll", CallingConvention = CallingConvention.Cdecl, EntryPoint = "xatlasSetPrint")]
    private static extern void xatlasSetPrint(XAtlasPrintFunc print, [MarshalAs(UnmanagedType.U1)] bool verbose);

    [MonoPInvokeCallback(typeof(XAtlasPrintFunc))]
    private unsafe static int XAtlasPrintCallback(IntPtr formatPtr, IntPtr vaList)
    {
        // 获取格式化后字符串的长度
        int strLength = _vscprintf(formatPtr, vaList);
        if (strLength <= 0)
            return 0;

        // 分配栈内存存储格式化结果（+1用于字符串终止符）
        char* buffer = stackalloc char[strLength + 1];
        // 执行字符串格式化
        int result = vsprintf(buffer, formatPtr, vaList);
        
        // 转换为C#字符串并输出到Unity日志
        string logStr = new string(buffer);
        Debug.Log(logStr);
        
        return result;
    }

    // 导入系统标准库的格式化辅助函数
    [DllImport(StdLib, CallingConvention = CallingConvention.Cdecl)]
    private static extern int _vscprintf(IntPtr format, IntPtr vaList);

    [DllImport(StdLib, CallingConvention = CallingConvention.Cdecl, CharSet = CharSet.Ansi)]
    private unsafe static extern int vsprintf(char* buffer, IntPtr format, IntPtr vaList);

    // 对外提供的初始化方法
    public static void InitializeLogger(bool verbose = true)
    {
        xatlasSetPrint(XAtlasPrintCallback, verbose);
    }
}

使用方式 #

在Unity的初始化逻辑中调用：

XAtlasLogger.InitializeLogger(true);

关键修正点 #

1. 委托签名修正：将原方案错误的byte args改为IntPtr vaList，直接传递原生va_list指针，避免参数类型不匹配导致的崩溃。
2. 跨平台适配：通过条件编译区分不同平台的系统标准库，保证在Windows/Linux/macOS上都能正常工作。
3. 内存安全：使用stackalloc分配临时缓冲区，避免托管堆开销，同时内存会自动回收。
4. IL2CPP兼容：保留[MonoPInvokeCallback]特性，确保IL2CPP编译时代理能被正确识别。
5. Unity日志适配：直接将格式化后的字符串传递给Debug.Log，满足需求。

内容的提问来源于stack exchange，提问作者Velctor