NVEnc采用CBR模式编码画面像素化问题排查求助

你的输出画面严重像素化，核心原因是比特率设置过低，同时存在分片参数配置不合理的问题，具体解析如下：

1. 比特率设置错误 #

你将averageBitRate设为INT16_MAX，这个值仅为32767（单位：bps），换算后仅32kbps，对于60fps的视频来说，这个比特率远不足以承载画面细节，必然导致严重的像素块。

修复：根据你的分辨率设置合理的比特率，比如1080p60的CBR模式建议设置为8-12Mbps，4K60建议设置为20-30Mbps，修改代码：

// 替换为符合你分辨率的合理值，例如1080p60设为10*1000*1000
pIntializeParams->encodeConfig->rcParams.averageBitRate = 10000000;
// CBR模式下maxBitRate建议和averageBitRate保持一致
pIntializeParams->encodeConfig->rcParams.maxBitRate = 10000000;

2. 分片参数配置不合理 #

当sliceMode设为1（按字节数分片）时，sliceModeData = INT16_MAX -50（约32KB）对于高分辨率高帧率视频来说，分片过大，可能导致画面局部编码资源分配不均，加重像素化。

修复：根据你的比特率和帧率调整分片大小，或者直接禁用分片：

// 禁用分片
pIntializeParams->encodeConfig->encodeCodecConfig.h264Config.sliceMode = 0;
// 或者设置合理的分片字节数（例如每片10KB）
// pIntializeParams->encodeConfig->encodeCodecConfig.h264Config.sliceModeData = 10000;

3. 额外优化建议 #

• 无限GOP长度（NVENC_INFINITE_GOPLENGTH）在长时间编码后可能导致画面质量逐步下降，建议设置合理的IDR周期（例如每120帧一个IDR帧），避免画面质量持续劣化。
• 确认NV_ENC_PRESET_LOW_LATENCY_HQ_GUID预设的配置被正确保留：你在memcpy预设配置后修改了部分参数，确保没有覆盖预设中的画质优化项。

内容的提问来源于stack exchange，提问作者thoxey