libav是否有NVENC相关文档？调用h264_nvenc编码崩溃如何解决？

官方参考资源 #

FFmpeg官方源码自带libavcodec的NVENC调用参考：

• 基础编码示例见源码路径 doc/examples/encode_video.c，修改示例中编码器ID为AV_CODEC_ID_H264、编码器名称指定为h264_nvenc即可直接运行验证
• NVENC支持的所有私有参数定义见源码路径 libavcodec/nvenc.c中的options数组，所有参数的含义、取值范围均有对应注释

崩溃问题排查步骤 #

• 首先验证运行环境有效性：执行命令 ffmpeg -encoders | grep h264_nvenc 确认当前编译的FFmpeg已开启NVENC支持。同时确认硬件与驱动匹配：NVIDIA驱动版本≥450.80.02，CUDA版本与驱动版本兼容，当前使用的GPU支持对应编码规格（消费级GPU有并发编码路数限制，部分老型号GPU不支持H.264高规格编码）。
• 检查输入帧格式适配：h264_nvenc默认仅支持显存中的硬件帧输入，不能直接传入CPU内存存储的YUV帧。需要先调用av_hwdevice_ctx_create创建AV_HWDEVICE_TYPE_CUDA类型的硬件设备上下文，将待编码的YUV帧从内存拷贝到AV_PIX_FMT_CUDA格式的硬件帧中，或直接在解码阶段输出硬件帧到显存复用。
• 修正编码器初始化流程：不能仅替换编码器名称，需要按顺序调整初始化逻辑：
  1. 创建CUDA硬件设备上下文
  2. 将编码器上下文的hw_device_ctx指针指向已创建的硬件设备上下文，并调用av_buffer_ref增加引用计数
  3. 调用avcodec_open2打开编码器时指定编码器名称为h264_nvenc
     注意：hwaccel cuda是ffmpeg命令行工具专属的全局参数，libav API调用场景下添加该参数不生效，无需加入参数字典。
• 清理私有参数配置：不要直接复用libx264的所有私有参数，h264_nvenc与libx264的参数体系不兼容，比如preset枚举值、crf取值范围均有差异。可先去掉所有自定义私有参数，使用默认参数跑通基础编码流程后再按需调整参数。
• 开启详细日志定位：调用av_log_set_level(AV_LOG_DEBUG)开启FFmpeg调试日志，崩溃时查看日志输出的错误信息，可以直接定位是上下文初始化失败、帧格式不匹配还是硬件资源不足导致的问题。

内容的提问来源于stack exchange，提问作者WRULine