VBA直接执行汇编代码在Excel中崩溃但twinBASIC正常的原因排查

我来帮你分析下这个问题——你遇到的Excel VBA崩溃但twinBASIC正常的情况，核心差异在于两个环境对COM对象内存和vtable的保护机制不同，具体可以从这几个方向拆解：

1. Excel VBA的vtable内存区域校验 #

Excel的VBA运行时会对COM对象的vtable指针做内存区域合法性检查：它默认认为vtable的函数指针应该指向Excel自身模块、VBA项目内部的代码内存区域，而你通过VirtualAlloc分配的是独立的可执行内存块（属于进程堆的匿名区域），不在Excel的“可信地址范围”内。当调用base.DoNothing时，Excel检测到vtable指针指向了未授权的内存，直接触发崩溃。

而twinBASIC作为独立的、更偏向底层开发的VBA环境，没有这种严格的地址范围校验，允许你自由修改vtable指向自定义的可执行内存。

2. 栈帧与调用约定的严格性差异 #

虽然你的64位汇编代码逻辑上是“清空rax返回0+直接返回”，但Excel VBA的COM方法调用对栈帧和寄存器的规范要求更严格：

• 64位Windows下的COM调用（stdcall）要求非易失性寄存器（比如rbp、rbx、rsi、rdi等）必须在调用前后保持原值
• 你的汇编代码没有保存和恢复rbp寄存器，可能破坏了Excel VBA运行时维护的栈帧结构，导致后续执行时栈指针混乱引发崩溃

twinBASIC对这类栈帧细节的容忍度更高，即使没有严格遵循寄存器保存规则也能正常执行。

验证与修复思路 #

• 测试内存区域限制：尝试把vtable指针替换成VBA项目中另一个函数的地址（比如另一个Sub的ObjPtr），如果能正常执行，就说明确实是内存区域的校验问题。
• 调整汇编代码符合调用规范：修改汇编代码，加入栈帧保存和恢复的指令，适配Excel的要求：

  48 8B EC          mov rbp, rsp  ; 保存当前栈帧
  48 31 C0          xor rax, rax  ; 设置返回值为0
  48 8B E5          mov rsp, rbp  ; 恢复栈帧
  C3                ret           ; 返回
  

• 绕开沙盒限制：如果是Excel的安全沙盒拦截，你可以尝试在信任中心关闭“宏安全性”的严格保护（仅用于测试，不建议生产环境这么做），看是否能正常运行。

备注：内容来源于stack exchange，提问作者Greedo