如何强制Windows Media Foundation H264编码器在CBR模式下满码率运行

问题核心 #

WMF内置的H264编码器（微软Media Foundation Transform）在CBR模式下，会针对静态画面自动降低码率以节省带宽，但这会导致量化参数（QP）过高，出现色彩渐变不平滑等压缩伪像。编码器默认的关键帧策略、QP限制等设置是导致该问题的主要原因。

解决方法 #

以下是针对你的代码的具体修改方案，强制编码器在静态画面场景下保持码率与质量：

1. 固定关键帧间隔 #

关键帧是独立完整的帧，无帧间依赖，频繁生成关键帧可避免静态画面依赖低质量的P/B帧累积伪像。

{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 30; // 按帧率设置，比如30fps下每秒1个关键帧，或设为1强制每帧都是关键帧
    ca->SetValue(&CODECAPI_AVEncVideoKeyFrameInterval, &v);
}

2. 限制量化参数（QP）范围 #

QP值越高压缩率越高、质量越低，通过固定QP范围强制编码器使用较高质量的编码策略：

// 设置最小QP（值越小质量越高，范围0-51）
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 10;
    ca->SetValue(&CODECAPI_AVEncVideoMinQP, &v);
}
// 设置最大QP（限制最低质量）
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 20; // 静态画面可适当降低该值
    ca->SetValue(&CODECAPI_AVEncVideoMaxQP, &v);
}

3. 配置CBR严格模式参数 #

通过设置峰值码率与缓冲区大小，约束编码器的码率波动范围，确保静态画面也能分配到足够码率：

// 设置峰值码率（与平均码率一致实现严格CBR）
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = m_bit_rate;
    ca->SetValue(&CODECAPI_AVEncCommonPeakBitRate, &v);
}
// 设置缓冲区大小（通常设为1秒的码率值）
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = m_bit_rate * 1;
    ca->SetValue(&CODECAPI_AVEncCommonBufferSize, &v);
}

4. 禁用帧跳过优化 #

强制编码器处理每一个输入帧，避免因静态内容跳过编码导致的质量下降：

{
    VARIANT v = {};
    v.vt = VT_BOOL;
    v.boolVal = VARIANT_FALSE;
    ca->SetValue(&CODECAPI_AVEncVideoAllowFrameSkip, &v);
}

整合后的完整代码片段 #

将上述参数添加到你的ICodecAPI配置部分：

ICodecAPI* ca;
hr = m_SinkWriter->GetServiceForStream(_stream_index, GUID_NULL, __uuidof(ICodecAPI), (void**)&ca);
if(FAILED(hr))
    return false;

// 原有的CBR与码率设置
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = eAVEncCommonRateControlMode_CBR;
    ca->SetValue(&CODECAPI_AVEncCommonRateControlMode, &v);
}
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = m_bit_rate;
    ca->SetValue(&CODECAPI_AVEncCommonMeanBitRate, &v);
}

// 新增的静态画面优化参数
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 30;
    ca->SetValue(&CODECAPI_AVEncVideoKeyFrameInterval, &v);
}
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 10;
    ca->SetValue(&CODECAPI_AVEncVideoMinQP, &v);
}
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = 20;
    ca->SetValue(&CODECAPI_AVEncVideoMaxQP, &v);
}
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = m_bit_rate;
    ca->SetValue(&CODECAPI_AVEncCommonPeakBitRate, &v);
}
{
    VARIANT v = {};
    v.vt = VT_UI4;
    v.uintVal = m_bit_rate * 1;
    ca->SetValue(&CODECAPI_AVEncCommonBufferSize, &v);
}
{
    VARIANT v = {};
    v.vt = VT_BOOL;
    v.boolVal = VARIANT_FALSE;
    ca->SetValue(&CODECAPI_AVEncVideoAllowFrameSkip, &v);
}

ca->Release();

额外注意事项 #

• 不同硬件编码器（如Intel Quick Sync、AMD AMF）对CodecAPI参数的支持存在差异，若硬件编码无法生效，可尝试切换至微软原生软件编码器。
• 输入格式建议使用YUV（如MFVideoFormat_NV12）替代RGB32，减少颜色空间转换带来的质量损失。

内容的提问来源于stack exchange，提问作者RStrenger