使用Crypt32在MASM32汇编中解码Base64字符串遇阻求助

核心流程 #

CryptBinaryToString做Base64解码必须分两步走，这是新手最容易踩坑的点：

• 第一步：调用函数时传入NULL作为输出缓冲区，获取解码后二进制数据所需的准确大小
• 第二步：根据获取到的大小分配缓冲区，再次调用函数完成解码

解码时要指定正确的标志位：

• 标准Base64输入：CRYPT_STRING_BASE64
• 如果输入包含换行、空格（比如多行格式的Base64），需追加CRYPT_STRING_IGNORE_WHITESPACE，即CRYPT_STRING_BASE64 | CRYPT_STRING_IGNORE_WHITESPACE

常见错误排查 #

你遇到的解码失败大概率是以下原因之一：

• 未先获取缓冲区大小，直接使用固定大小缓冲区，导致空间不足或溢出
• 标志位设置错误（比如误用编码标志，或未添加忽略空格的标志）
• 文本框传入的字符串未处理结尾NULL终止符，或包含非Base64字符
• 部分环境下未初始化CryptoAPI（虽然CryptBinaryToString多数场景无需额外初始化，但极端情况需调用CryptAcquireContext）

MASM32 示例代码 #

以下是从文本框获取Base64字符串并解码的完整示例：

.386
.model flat, stdcall
option casemap :none

include windows.inc
include user32.inc
include kernel32.inc
include advapi32.inc

includelib user32.lib
includelib kernel32.lib
includelib advapi32.lib

; 假设文本框句柄为hEditBase64，结果输出到hEditResult
.data
    szBase64Input db 1024 dup(0)
    pDecodedBuffer dd ?
    dwDecodedSize dd ?

.code
DecodeBase64 proc
    ; 从文本框读取Base64输入
    invoke GetWindowText, hEditBase64, addr szBase64Input, sizeof szBase64Input
    .if eax == 0
        ; 获取输入失败，直接返回
        ret
    .endif

    ; 第一步：获取解码所需缓冲区大小
    invoke CryptBinaryToString, addr szBase64Input, eax, CRYPT_STRING_BASE64 or CRYPT_STRING_IGNORE_WHITESPACE, NULL, addr dwDecodedSize
    .if eax == FALSE
        ; 获取大小失败，可调用GetLastError排查错误
        ret
    .endif

    ; 分配解码用内存
    invoke LocalAlloc, LMEM_ZEROINIT, dwDecodedSize
    .if eax == NULL
        ; 内存分配失败
        ret
    .endif
    mov pDecodedBuffer, eax

    ; 第二步：执行解码
    invoke CryptBinaryToString, addr szBase64Input, eax, CRYPT_STRING_BASE64 or CRYPT_STRING_IGNORE_WHITESPACE, pDecodedBuffer, addr dwDecodedSize
    .if eax == FALSE
        ; 解码失败，释放内存后返回
        invoke LocalFree, pDecodedBuffer
        ret
    .endif

    ; 示例：将解码后的文本内容显示到结果文本框
    invoke SetWindowText, hEditResult, pDecodedBuffer

    ; 释放内存
    invoke LocalFree, pDecodedBuffer
    ret
DecodeBase64 endp
end

额外注意事项 #

• 如果解码结果是二进制数据（如图片、加密字节流），不能直接用SetWindowText显示，需写入文件或做对应二进制处理
• 调用CryptBinaryToString时，第二个参数是输入Base64字符串的字节长度（不含NULL终止符），即GetWindowText返回的eax值
• 务必清理分配的内存，避免内存泄漏

内容的提问来源于stack exchange，提问作者bytezero