MASM中数据段与栈上结构体调用SHFileOperationW的差异问题

问题背景 #

调用Win32 API的SHFileOperationW时，出现了两种调用方式结果不同的情况：使用.data段定义的结构体填充字段后传递地址会报错，但直接在栈上push所有字段再传递栈地址就能正常运行。需要明确问题原因，以及是否必须填充结构体的所有字段（即使值为0）。

C语言中_SHFILEOPSTRUCTW定义 #

typedef struct _SHFILEOPSTRUCTW {
HWND         hwnd;
UINT         wFunc;
PCZZWSTR     pFrom;
PCZZWSTR     pTo;
FILEOP_FLAGS fFlags;
BOOL         fAnyOperationsAborted;
LPVOID       hNameMappings;
PCWSTR       lpszProgressTitle;
} SHFILEOPSTRUCTW, *LPSHFILEOPSTRUCTW;

MASM中SHFILEOPSTRUCT定义 #

SHFILEOPSTRUCT struct 
    hwnd                  dq ?
    wFunc                 dd ?
    pFrom                 dq ?
    pTo                   dq ?
    fFlags                dw ?
    fAnyOperationsAborted dd ?
    hNameMappings         dq ?
    lpszProgressTitle     dq ?
SHFILEOPSTRUCT ends

.data段结构体初始化 #

fos SHFILEOPSTRUCT <?>

不工作的代码 #

mov [fos.hwnd], 0                       ; hWnd
mov [fos.wFunc], FO_DELETE              ; Delete 
mov rax, offset filename
mov [fos.pFrom], rax                    ; Filename
mov [fos.fFlags], FOF_ALLOWUNDO or FOF_NOCONFIRMATION or FOF_SILENT                           
lea rcx, fos

正常工作的代码 #

push 0
push 0
push 0
push FOF_ALLOWUNDO or FOF_NOCONFIRMATION or FOF_SILENT
push 0
pushaddr filename
push FO_DELETE 
push 0
mov rcx, rsp

共用的后续调用代码 #

sub rsp, 28h 
call SHFileOperationW

问题原因分析 #

1. 结构体字段类型不匹配导致内存布局错位
   C语言中FILEOP_FLAGS fFlags是UINT类型（通常4字节），但MASM定义中写成了dw（2字节），这直接破坏了结构体的内存对齐规则，导致后续fAnyOperationsAborted等成员的内存偏移全部错位。API读取字段时拿到错误的值，自然引发异常。而栈上push的代码中，fFlags按4字节入栈，内存布局和C语言完全一致，所以能正常运行。

2. 未初始化字段的垃圾值干扰
   .data段用<?>初始化结构体时，未赋值的字段会保留内存中的随机垃圾值。SHFileOperationW会读取结构体的所有成员，垃圾值（比如非法指针、错误的标志位）会导致API执行逻辑异常。而栈上代码显式push了所有字段的0值，所有成员都是合法状态，API能正确处理。

是否需要填充所有字段？ #

是的，必须确保结构体的所有字段都被正确初始化（哪怕设为0）。Win32 API会依赖结构体的完整成员数据，未初始化的垃圾值会引发不可预测的行为。对于不需要使用的字段，应显式设置为0。

修复方案 #

1. 修正MASM结构体的类型定义
   将fFlags的类型从dw改为dd，匹配C语言的UINT：

SHFILEOPSTRUCT struct 
    hwnd                  dq ?
    wFunc                 dd ?
    pFrom                 dq ?
    pTo                   dq ?
    fFlags                dd ?  ; 改为dd，对应C的UINT类型
    fAnyOperationsAborted dd ?
    hNameMappings         dq ?
    lpszProgressTitle     dq ?
SHFILEOPSTRUCT ends

2. 显式清零所有结构体字段
   先将整个结构体清零，再设置需要的字段：

; 先把结构体所有字段清零
mov rax, offset fos
mov rcx, sizeof SHFILEOPSTRUCT
xor rdx, rdx
rep stosb

; 设置需要的字段
mov [fos.hwnd], 0                       ; hWnd
mov [fos.wFunc], FO_DELETE              ; Delete 
mov rax, offset filename
mov [fos.pFrom], rax                    ; Filename
mov [fos.fFlags], FOF_ALLOWUNDO or FOF_NOCONFIRMATION or FOF_SILENT
lea rcx, fos

内容的提问来源于stack exchange，提问作者mantissa