你遇到的问题其实很常见——DXVA2的H.264硬件解码器对Baseline Profile的支持确实存在兼容性限制，尤其是在旧版FFmpeg或者特定显卡驱动环境下。结合你提到的测试结果（High Profile正常、VLC能播放），我们可以从以下几个方向解决：

一、确认问题根源 #

DXVA2是Windows上较早的硬件加速API，不同显卡厂商（Intel、NVIDIA、AMD）的实现差异很大，不少厂商的DXVA2解码器直接不支持Baseline Profile的硬件解码。而VLC能正常播放，是因为它默认会自动检测硬件解码是否可行，如果失败就 fallback到软件解码，不会强制依赖硬件加速。

二、具体解决方案 #

1. 针对性 fallback到软件解码 #

在你的代码里，检测H.264流的Profile，当识别到是Baseline时，禁用DXVA2硬件加速，改用软件解码：

AVCodecContext* codec_ctx = /* 你的解码器上下文 */;
// 检查当前流的Profile
if (codec_ctx->profile == AV_PROFILE_H264_BASELINE) {
    // 释放之前的硬件设备上下文（如果已初始化）
    if (codec_ctx->hw_device_ctx) {
        av_buffer_unref(&codec_ctx->hw_device_ctx);
        codec_ctx->hw_device_ctx = NULL;
    }
    // 此时FFmpeg会自动使用软件解码器
}

这样既保证High Profile能用硬件加速，Baseline也能正常解码。

2. 替换为更兼容的硬件加速API（D3D11VA） #

D3D11VA是DXVA2的继任者，对H.264各Profile的支持更完善，建议尝试替换：

命令行测试先验证

用D3D11VA替换DXVA2执行你的测试命令：

ffmpeg.exe -hwaccel d3d11va -threads 1 -i output.h264 -f null - -benchmark

如果这个命令能正常运行，说明D3D11VA支持你的Baseline流，接下来就可以在代码里切换到D3D11VA初始化：

代码中初始化D3D11VA设备

AVBufferRef* hw_device_ctx = NULL;
// 创建D3D11VA设备上下文
int ret = av_hwdevice_ctx_create(&hw_device_ctx, AV_HWDEVICE_TYPE_D3D11VA, NULL, NULL, 0);
if (ret >= 0) {
    // 将硬件设备上下文绑定到解码器
    codec_ctx->hw_device_ctx = av_buffer_ref(hw_device_ctx);
    av_buffer_unref(&hw_device_ctx);
} else {
    // 初始化失败时，fallback到软件解码
    av_log(NULL, AV_LOG_WARNING, "D3D11VA初始化失败，将使用软件解码\n");
}

3. 更新FFmpeg和显卡驱动 #

旧版FFmpeg对DXVA2的Baseline支持可能有bug，建议更新到最新的稳定版FFmpeg；同时更新你的显卡驱动（Intel核显、NVIDIA/AMD独显），厂商后续的驱动更新可能会修复DXVA2对Baseline的支持问题。

三、总结 #

核心矛盾是DXVA2对Baseline Profile的硬件解码支持不足，优先推荐用D3D11VA替代DXVA2，或者在代码中做Profile检测自动切换到软件解码，这两种方式都能解决你遇到的avcodec_send_packet返回错误的问题。

内容的提问来源于stack exchange，提问作者Chintan Patel