Windows x64下如何在GCC和MSVC中确保调用汇编函数前r10、r11寄存器被指定值占据（避免编译器干扰）

我来梳理下你遇到的核心问题：在调用目标函数前要把指定值塞进r10、r11，但编译器处理可变参数时可能会随意修改这两个易失性寄存器。下面针对GCC和MSVC分别给出可靠的解决方案，以及优化你提到的间接syscall汇编代码的思路。

GCC 解决方案 #

GCC支持通过扩展语法直接绑定变量到寄存器，配合asm volatile可以强制编译器不重排代码或修改这些寄存器的内容。之前你可能没正确使用约束条件，试试下面的写法：

template<typename... Args>
int wrapper(int val1, int val2, Args... args) {
    // 强制将val1绑定到r10，val2绑定到r11
    register int r10_val asm("r10") = val1;
    register int r11_val asm("r11") = val2;
    
    // 空汇编指令+约束，告诉编译器这两个寄存器被显式使用，不能随意修改
    asm volatile("" : "+r"(r10_val), "+r"(r11_val));
    
    // 此时调用foo，编译器会保证r10、r11的值不被破坏
    foo(args...);
    
    return 0; // 可根据foo的返回值调整
}

要点说明 #

• register int x asm("reg")是GCC专属扩展，强制变量与指定寄存器绑定
• "+r"(x)约束表示寄存器既是输入又是输出，编译器会避免在这段代码前后重排或修改该寄存器
• 即使开启优化，这个写法也能生效，因为编译器会严格遵守汇编约束

MSVC 解决方案 #

MSVC x64完全禁用了内联汇编，且r10、r11属于易失性寄存器（编译器可随意用作临时存储），所以之前的setr10/setr11方案不可靠。下面是两种可行的思路：

方案1：优化间接syscall的Trampoline汇编代码 #

针对你提到的间接syscall场景，我把你写的汇编代码简化了，减少了冗余的栈操作和寄存器移动，代码更简洁高效：

.CODE
trampoline PROC
    ; 保存Windows x64要求的非易失性寄存器
    push r15
    push r14
    push r13
    push r12
    push rsi
    push rdi

    ; 保存trampoline的参数：syscall号、syscall stub地址、栈参数个数
    mov r13, rcx
    mov r14, rdx
    mov r15, r8

    ; 设置syscall所需寄存器：第一个参数到r10，syscall号到rax
    mov r10, r9
    mov rax, r13

    ; 计算栈参数总字节数并分配栈空间（用左移替代乘法，更高效）
    mov rax, r15
    shl rax, 3
    sub rsp, rax

    ; 有栈参数时才复制，避免无意义操作
    test r15, r15
    jz SkipStackCopy

    ; 复制原栈上的参数到新分配的栈空间
    lea rsi, [rsp + rax + 48 + 8]
    mov rdi, rsp
    mov rcx, r15
    rep movsq

SkipStackCopy:
    ; 调用syscall stub（Windows x64需要32字节阴影空间）
    sub rsp, 32
    call r14
    add rsp, 32

    ; 释放栈参数空间
    mov rcx, r15
    shl rcx, 3
    add rsp, rcx

    ; 恢复寄存器并返回
    pop rdi
    pop rsi
    pop r12
    pop r13
    pop r14
    pop r15
    ret
trampoline ENDP
END

方案2：临时禁用Wrapper函数优化（应急备选） #

如果暂时不想修改汇编代码，可以尝试禁用wrapper函数的所有优化，强制编译器不重排代码或使用r10/r11作为临时寄存器：

#pragma optimize("", off)
template<typename... Args>
int wrapper(int val1, int val2, Args... args) {
    extern "C" void setr10(int);
    extern "C" void setr11(int);
    
    setr10(val1);
    setr11(val2);
    
    // 用volatile变量阻止编译器重排代码
    volatile int dummy = 0;
    
    foo(args...);
}
#pragma optimize("", on)

注意：这个方案不保证100%可靠，即使禁用优化，MSVC仍可能在极端情况下使用r10/r11，仅作应急备选。

关键结论 #

• GCC可以通过register asm扩展+汇编约束可靠控制寄存器，完全避免编译器干扰
• MSVC x64必须通过汇编函数直接控制寄存器和调用流程，因为内联汇编被禁用，且易失性寄存器不受编译器保护
• 间接syscall场景下，优化后的trampoline汇编函数是最可靠、代码量可控的方案

内容来源于stack exchange