WinCrypt API RC2解密逻辑迁移至Go语言结果不一致问题排查

问题背景 #

需要将基于Windows CryptoAPI的旧C解密代码迁移到Go语言，核心障碍是RC2解密的结果不一致。C版本可正常解密，但Go版本输出错误，根源在于CryptDeriveKey的密钥派生规则、RC2算法的模式和填充方式与Go代码的实现不匹配。

原C++代码 #

#include <windows.h>
#include <wincrypt.h>
#include <string>
#include <iostream>

using namespace std;

int main() {
    auto name = L"aaaa";

    HCRYPTPROV hProv;

    if (!CryptAcquireContext(&hProv, name, MS_DEF_PROV, PROV_RSA_FULL, 0) &&
        !CryptAcquireContextW(&hProv, name, MS_DEF_PROV, PROV_RSA_FULL, CRYPT_NEWKEYSET) &&
        !CryptAcquireContextW(&hProv, name, MS_DEF_PROV, PROV_RSA_FULL, CRYPT_MACHINE_KEYSET) &&
        !CryptAcquireContextW(&hProv, name, MS_DEF_PROV, PROV_RSA_FULL, CRYPT_MACHINE_KEYSET | CRYPT_NEWKEYSET)) {
        cout << "fail" << endl;
        exit(1);
    }

    HCRYPTHASH hHash;

    if (!CryptCreateHash(hProv, CALG_MD5, 0, 0, &hHash)) {
        cout << "fail" << endl;
        exit(1);
    }

    const BYTE* pwd = reinterpret_cast<const BYTE*>("-+ REDACTED +-");

    if (!CryptHashData(hHash, pwd, 14, 0)) {
        cout << "md5 failure" << endl;
        exit(1);
    }

    HCRYPTKEY hKey;

    if (!CryptDeriveKey(hProv, CALG_RC2, hHash, 0, &hKey)) {
        cout << "failure" << endl;
        exit(1);
    }

    unsigned char cipher[] = {52, 54, 253, 199, 131, 110, 202, 15, 185, 107, 71, 244, 150, 171, 220, 6, 183, 86, 234, 252, 242, 84, 156, 200};

    DWORD len = 24;

    if (!CryptDecrypt(hKey, 0, TRUE, 0, cipher, &len)) {
        printf("%x\n", GetLastError());
        exit(1);
    }

    for (int i = 0; i < len; i++) {
        printf("%d, ", cipher[i]);
    }
}

原Go代码（存在问题） #

package main

import (
    "crypto/md5"
    "fmt"

    "github.com/dgryski/go-rc2"
)

func main() {
    pwd := "-+ REDACTED +-"
    hash := md5.Sum([]byte(pwd))

    alg, err := rc2.New(hash[:], 128)
    if err != nil {
        panic(err)
    }

    cipher := []byte{52, 54, 253, 199, 131, 110, 202, 15, 185, 107, 71, 244, 150, 171, 220, 6, 183, 86, 234, 252, 242, 84, 156, 200}

    result := []byte{}
    dst := make([]byte, 8)

    for i := 8; i <= len(cipher); i += 8 {
        alg.Decrypt(dst, cipher[i-8:i])
        result = append(result, dst...)
    }

    fmt.Println(result)
}

核心问题分析 #

1. 加密模式不匹配：Windows CryptoAPI中RC2默认使用CBC模式，而原Go代码直接使用ECB模式（分块独立解密，无IV）。
2. 初始向量(IV)缺失：CryptDecrypt在未指定IV时，默认使用全0的8字节IV，原Go代码未处理IV。
3. 填充方式未适配：CryptDecrypt默认自动处理PKCS#7填充，原Go代码未去除填充数据。
4. 密钥派生部分：CryptDeriveKey对于RC2算法，直接使用MD5哈希作为密钥材料，有效长度128位，这部分原Go代码是正确的，但需要配合正确的模式和IV。

修正后的Go代码 #

package main

import (
    "crypto/cipher"
    "crypto/md5"
    "fmt"

    "github.com/dgryski/go-rc2"
)

func main() {
    pwd := "-+ REDACTED +-"
    // 生成MD5哈希，和C++代码一致
    hash := md5.Sum([]byte(pwd))

    // 适配CryptDeriveKey的RC2密钥规则：使用MD5哈希作为密钥材料，有效密钥长度128位
    rc2Cipher, err := rc2.New(hash[:], 128)
    if err != nil {
        panic(err)
    }

    // Windows CryptoAPI默认使用CBC模式，IV为全0的8字节数组
    iv := make([]byte, 8)
    cbcDecrypter := cipher.NewCBCDecrypter(rc2Cipher, iv)

    cipherData := []byte{52, 54, 253, 199, 131, 110, 202, 15, 185, 107, 71, 244, 150, 171, 220, 6, 183, 86, 234, 252, 242, 84, 156, 200}

    // CBC模式解密，输入长度需为块大小（8字节）的倍数，这里已满足
    plaintext := make([]byte, len(cipherData))
    cbcDecrypter.CryptBlocks(plaintext, cipherData)

    // 去除PKCS#7填充：最后一个字节的值即为填充长度
    paddingLen := int(plaintext[len(plaintext)-1])
    plaintext = plaintext[:len(plaintext)-paddingLen]

    // 输出与C++版本一致的结果
    for _, b := range plaintext {
        fmt.Printf("%d, ", b)
    }
}

验证说明 #

修正后的Go代码解决了模式、IV和填充的问题，解密结果会与C++版本完全一致。需要注意：

• 确保RC2的有效密钥长度与CryptDeriveKey的默认值一致（128位）
• PKCS#7填充的去除逻辑是必要的，因为CryptDecrypt会自动剥离填充，而Go的CBC解密不会自动处理

内容的提问来源于stack exchange，提问作者maksadbek