PowerShell调用Marshal.PtrToStructure触发AccessViolationException问题排查

• 检查内存生命周期管理
  System.AccessViolationException本质是非法内存访问，常见原因是非托管内存被提前释放，或托管对象被GC回收后仍被非托管代码引用。ISE或模块自动加载场景下，PowerShell的变量生命周期更长（比如ISE保留更多会话状态，模块加载后函数相关对象不会被立即回收），避开了这个问题。

  • 确保用[System.Runtime.InteropServices.Marshal]::AllocHGlobal分配的非托管内存，使用完毕后及时调用FreeHGlobal释放，且释放前不再访问该内存区域。
  • 对于P/Invoke结构体中的指针成员，要保证指向的内存在结构体被使用期间始终有效，避免局部变量被GC回收导致内存失效。

• 验证P/Invoke签名与结构体布局的正确性
  即使代码在特定环境下能运行，签名或结构体布局不匹配也可能导致内存访问错误：

  • 检查结构体是否用[StructLayout(LayoutKind.Sequential)]或LayoutKind.Explicit明确指定布局，字段的大小、对齐方式要与非托管代码完全一致，必要时用[MarshalAs]属性指定字符串、数组等类型的封送规则。
  • 确认P/Invoke函数的CallingConvention是否与非托管库匹配，默认是StdCall，部分库使用Cdecl，调用约定不匹配会直接导致栈损坏，引发内存异常。

• 强制保留托管对象引用
  直接运行脚本时，PowerShell可能快速回收不再被显式引用的托管对象，而非托管代码仍在使用其关联内存。可以通过以下方式规避：

  • 将关键的托管对象（如包含P/Invoke结构体的变量）赋值给全局变量（$global:yourObject），延长其生命周期。
  • 在脚本末尾添加[GC]::KeepAlive($yourObject)，阻止GC提前回收目标对象。

• 调试定位具体问题点

  • 在脚本开头添加[System.Diagnostics.Debugger]::Launch()，触发崩溃时启动调试器，查看调用栈和内存状态，定位是哪个结构体或指针访问导致的异常。
  • 逐步注释代码、添加日志输出，排查触发异常的具体代码行，缩小问题范围。

• 适配PowerShell执行环境差异
  ISE默认以STA线程模式运行，而普通PowerShell 5.1控制台默认是MTA模式。如果非托管库要求特定线程模型，可能引发内存问题：

  • 尝试用powershell -sta命令启动控制台，测试脚本是否能稳定运行。

内容的提问来源于stack exchange，提问作者Kanuc