调用Irvine32汇编函数时WriteInt无输出，需解决控制台标准调用问题

当通过C代码调用基于Irvine32编写的add_func汇编函数时，汇编代码中的WriteInt无法在控制台输出内容，但函数能正常返回计算结果给C代码并被打印；单独运行该汇编代码时，WriteInt可正常输出控制台内容。当前环境可正常运行常规汇编代码，需解决该问题，确保汇编能正常执行控制台输出及其他标准调用。

相关代码 #

main.c #

#include <stdio.h>

#ifdef __cplusplus
extern "C" {
#endif

    // Declare the assembly function
    extern int add_func(int a, int b);

#ifdef __cplusplus
}
#endif

int main() {

    printf("Starting the assembly function...\n");
    int result = add_func(2, 3);
    printf("Result: %d\n", result);

    return 0;
}

汇编代码（原版本） #

Include irvine32.inc

.model flat, STDCALL

.data
    result DWORD ?
    
.code

add_func PROC

    ; Save the base pointer
    push ebp
    mov ebp, esp

    ; Get the arguments
    mov eax, [ebp+8]  ; a
    mov ecx, [ebp+12] ; b

    ; Add a and b
    add eax, ecx

    ; Store the result in a variable
    mov result, eax
    
    call WriteInt

exit_function:

    ; Restore the base pointer
    pop ebp

    ; Return the result in EAX
    mov eax, result
    ret 8  ; Clean up the stack (2 arguments * 4 bytes each)

add_func ENDP

END

问题原因 #

1. 调用约定不匹配：C代码默认使用cdecl调用约定，但汇编代码声明为STDCALL，两者栈清理责任不同（STDCALL由被调用方清理，cdecl由调用方清理），可能导致运行环境异常。
2. Irvine32环境未初始化：单独运行汇编时，Irvine32的启动代码会自动执行控制台环境初始化（如设置输入输出句柄）；但通过C调用时，这一步被跳过，导致WriteInt无法找到有效的控制台输出通道。

解决方案 #

方案1：统一调用约定并手动初始化环境 #

修改汇编代码为C调用约定，匹配C代码默认规则，并在函数内初始化Irvine32环境：

Include irvine32.inc

.model flat, C  ; 切换为C调用约定

.data
    result DWORD ?
    
.code

add_func PROC
    ; 保存非易失性寄存器（cdecl约定要求保留EBX、ESI、EDI、EBP）
    push ebp
    mov ebp, esp
    push ebx
    push esi
    push edi

    ; 初始化Irvine32控制台环境
    call Initialize

    ; 获取参数（位置与原代码一致）
    mov eax, [ebp+8]  ; a
    mov ecx, [ebp+12] ; b

    add eax, ecx
    mov result, eax
    
    call WriteInt
    call Crlf  ; 可选：添加换行让输出更清晰

    ; 恢复寄存器
    pop edi
    pop esi
    pop ebx
    pop ebp

    ; cdecl约定由调用方清理栈，直接ret即可
    mov eax, result
    ret

add_func ENDP
END

方案2：在C代码中提前初始化环境 #

如果保留汇编的STDCALL约定，需在C代码中手动调用Irvine32的初始化函数，并修正函数声明：

1. 修改C代码的函数声明与初始化：

#include <stdio.h>

#ifdef __cplusplus
extern "C" {
#endif

    extern void Initialize(void);
    // 明确指定STDCALL调用约定
    extern int __stdcall add_func(int a, int b);

#ifdef __cplusplus
}
#endif

int main() {
    Initialize(); // 提前初始化Irvine32环境
    printf("Starting the assembly function...\n");
    int result = add_func(2, 3);
    printf("Result: %d\n", result);

    return 0;
}

2. 汇编代码保持原STDCALL约定不变。

关键注意事项 #

• Initialize是Irvine32库的核心初始化函数，必须确保在调用任何Irvine32输入输出函数前执行。
• 调用约定必须严格匹配，否则会引发栈损坏、程序崩溃等异常。
• 编译时需正确链接Irvine32库文件，确保所有函数能被正常解析。

内容的提问来源于stack exchange，提问作者rajpoot mhm