如何解密由SECP521R1曲线私钥签名的TLS加密PCAP报文

一、Wireshark配置（核心解决密钥类型不匹配问题） #

你的密钥是基于SECP521R1的ECDSA算法，但Wireshark的「RSA密钥列表」仅支持RSA密钥，所以得用以下正确方式配置：

1. 打开Wireshark，依次进入 编辑 > 首选项 > 协议 > TLS
2. 优先推荐使用「密钥日志文件」方式：
   • 填写(Pre)-Master-Secret log filename，比如/tmp/tls_secrets.log（Linux/macOS）或C:\tls_secrets.log（Windows）
   • 生成密钥日志：
     • 若你能控制客户端/服务器：给程序添加环境变量SSLKEYLOGFILE=/tmp/tls_secrets.log再启动；Chrome/Edge可加启动参数--ssl-key-log-file=C:\tls_secrets.log
     • 若只能用服务器私钥：先把EC私钥转成PKCS#8格式（避免Wireshark加载失败）：

       openssl pkcs8 -topk8 -inform PEM -in private_key.pem -out private_key_pk8.pem -nocrypt
       

       然后回到Wireshark的TLS设置，点击「Add」添加解密密钥，类型选择ECDSA，导入转换后的private_key_pk8.pem

二、OpenSSL命令行解密步骤 #

1. 提取TLS应用数据：

   tshark -r DUMP.pcap -Y "tls.app_data" -T fields -e tls.app_data > tls_app_data.raw
   

2. 获取Master-Secret：
   • 先提取握手包：

     tshark -r DUMP.pcap -Y "tls.handshake" -w handshake.pcap
     

   • 用OpenSSL模拟服务器加载密钥证书，解析握手包提取密钥：

     openssl s_server -key private_key.pem -cert cert.pem -debug -accept 4433 < handshake.pcap
     

     从输出中找到Master-Secret字段的值
3. 解密应用数据：
   • 先从抓包中提取TLS记录的IV（用tshark导出）：

     tshark -r DUMP.pcap -Y "tls.app_data" -T fields -e tls.record.iv > tls_iv.txt
     

   • 用OpenSSL解密（替换<master_secret>和<iv>为实际值）：

     openssl enc -aes-256-cbc -d -in tls_app_data.raw -out decrypted_data.bin -K <master_secret> -iv <iv>
     

三、关键排查点 #

• 验证密钥与证书匹配：

  openssl x509 -in cert.pem -pubkey -noout > cert_pub.pem
  openssl ec -in private_key.pem -pubout -noout > key_pub.pem
  diff cert_pub.pem key_pub.pem
  

  无输出则说明匹配正常
• 升级Wireshark：旧版本对ECDSA解密和TLS 1.3支持有限，建议用最新稳定版
• 确认TLS版本：TLS 1.3的解密逻辑和1.2不同，需确保工具支持对应版本

内容的提问来源于stack exchange，提问作者Roman S4C