使用LibraryImport替代DllImport时字节数组及长度编组问题

在将Tbsip_Submit_Command从[DllImport]迁移到[LibraryImport]时，核心问题是双向参数outBufLen的处理逻辑差异：[DllImport]中ref参数默认是双向（既读入初始值，也输出结果），但[LibraryImport]需要显式标记[In, Out]才能实现同样的双向行为，否则[MarshalUsing]无法获取到你传入的初始缓冲区长度，导致运行时校验失败抛出"Destination is too short"异常。

正确的LibraryImport定义示例 #

using System.Runtime.InteropServices;

[LibraryImport("tbs.dll")]
private static partial uint Tbsip_Submit_Command(
    uint hContext,
    uint commandCode,
    IntPtr inBuf,
    uint inBufLen,
    // 用MarshalUsing关联双向的outBufLen参数
    [MarshalUsing(CountElementName = nameof(outBufLen))] byte[] outBuf,
    // 显式标记为双向参数，确保初始值被读取，结果被写入
    [In, Out] ref uint outBufLen);

调用时的正确姿势 #

和[DllImport]的调用逻辑一致，先分配足够大的缓冲区，传入初始长度，调用后获取实际写入长度：

// 初始化足够大的缓冲区（可根据实际需求调整大小）
uint initialOutBufLen = 4096;
byte[] outBuf = new byte[initialOutBufLen];

// 调用函数
uint result = Tbsip_Submit_Command(
    hContext,
    commandCode,
    inBuf,
    inBufLen,
    outBuf,
    ref initialOutBufLen);

// 此时initialOutBufLen已经被更新为实际写入的字节数
byte[] actualOutput = outBuf.Take((int)initialOutBufLen).ToArray();

关键说明 #

1. [In, Out]标记的必要性：LibraryImport中ref参数默认仅作为输出参数处理，如果不添加[In, Out]，MarshalUsing无法读取你传入的初始缓冲区长度，会误以为缓冲区长度为0或无效值，触发长度不足的异常。
2. 缓冲区初始大小要足够：如果初始分配的缓冲区确实小于实际需要的大小，即使标记了[In, Out]仍会抛出异常，这和[DllImport]的行为一致，需要根据接口文档或实际测试设置合适的初始大小。
3. 替代方案：使用IntPtr的场景
   如果必须用IntPtr作为输出缓冲区，同样需要标记outBufLen为[In, Out]，并手动管理内存：

   [LibraryImport("tbs.dll")]
   private static partial uint Tbsip_Submit_Command(
       uint hContext,
       uint commandCode,
       IntPtr inBuf,
       uint inBufLen,
       IntPtr outBuf,
       [In, Out] ref uint outBufLen);
   
   // 调用示例
   uint initialLen = 4096;
   IntPtr outBuf = Marshal.AllocHGlobal((int)initialLen);
   try
   {
       uint result = Tbsip_Submit_Command(hContext, commandCode, inBuf, inBufLen, outBuf, ref initialLen);
       // 从outBuf中读取数据
       byte[] actualData = new byte[initialLen];
       Marshal.Copy(outBuf, actualData, 0, (int)initialLen);
   }
   finally
   {
       Marshal.FreeHGlobal(outBuf);
   }
   

内容的提问来源于stack exchange，提问作者Veksi