如何在C++视频编码器中用av_opt_set设置libx265的HDR参数？

要正确设置libx265的HDR相关参数，你需要通过x265-params这个统一选项传递完整的参数字符串，而非直接用av_set_options_string操作priv_data。以下是具体实现方案：

核心逻辑 #

libx265的参数并未直接暴露为FFmpeg AVCodecContext的独立选项，需将所有HDR相关参数打包成键值对字符串，通过x265-params选项传递给编码器私有数据（priv_data）。

正确代码实现 #

替换你原有的av_set_options_string调用，改用av_opt_set设置x265-params：

AVCodecContext* cctx;
cctx = avcodec_alloc_context3(vcodec);

// 基础编码器配置
cctx->width = dst_width;
cctx->height = dst_height;
cctx->pix_fmt = AV_PIX_FMT_YUV420P10LE; // HDR必须使用10位及以上像素格式
cctx->time_base = av_inv_q(dst_fps);
cctx->framerate = dst_fps;

// 设置CRF参数
int ret = av_opt_set(cctx->priv_data, "crf", "20", AV_OPT_SEARCH_CHILDREN);
if (ret < 0) {
    char err_buf[AV_ERROR_MAX_STRING_SIZE];
    av_strerror(ret, err_buf, sizeof(err_buf));
    fprintf(stderr, "设置CRF失败: %s\n", err_buf);
}

// 设置x265 HDR完整参数
const char* x265_params = "hdr-opt=1:repeat-headers=1:colorprim=bt2020:transfer=smpte2084:colormatrix=bt2020nc:master-display=G(8500,39850)B(6550,2300)R(35400,14600)WP(15635,16450)L(40000000,50):max-cll=0,0";
ret = av_opt_set(cctx->priv_data, "x265-params", x265_params, AV_OPT_SEARCH_CHILDREN);
if (ret < 0) {
    char err_buf[AV_ERROR_MAX_STRING_SIZE];
    av_strerror(ret, err_buf, sizeof(err_buf));
    fprintf(stderr, "设置x265参数失败: %s\n", err_buf);
}

// 打开编码器（务必在所有参数设置完成后执行）
ret = avcodec_open2(cctx, vcodec, NULL);
if (ret < 0) {
    // 处理编码器打开错误
}

关键注意事项 #

• 调用时机：所有参数设置必须在avcodec_open2之前完成，编码器初始化后参数无法再修改。
• 参数一致性：你已通过cctx->colorspace、cctx->color_trc等设置色彩参数，需确保和x265-params中的colorprim、transfer、colormatrix保持一致，避免冲突。
• 像素格式：HDR视频必须使用10位及以上像素格式（如AV_PIX_FMT_YUV420P10LE），否则编码器无法正确处理HDR元数据。
• 错误检查：必须检查av_opt_set的返回值，FFmpeg API会返回负数值表示错误，通过av_strerror可将错误码转为可读信息。

原方案失败原因 #

av_set_options_string用于设置FFmpeg自身暴露的选项，而libx265的内部参数并未直接映射为FFmpeg选项，必须通过x265-params这个“容器”传递，直接操作priv_data无法识别这些参数。

内容的提问来源于stack exchange，提问作者Eduard Barnoviciu