使用GPU转码HEVC至H264时调用scale_npp/scale_cuda缩放失败的问题排查与解决问询

首先，你的问题核心在于解码后的硬件帧没有被正确传递给GPU缩放滤镜，导致FFmpeg自动插入了一个CPU缩放滤镜（auto_scale_0），而这个滤镜无法处理CUDA显存中的硬件帧，最终出现格式转换失败的错误。

问题分析 #

从错误日志可以看到，hevc_cuvid解码输出的是p010le格式的硬件帧（10bit YUV，存储在GPU显存中），而scale_npp是GPU原生滤镜，需要直接操作硬件帧。但FFmpeg默认尝试插入CPU滤镜来做格式转换，而CPU滤镜无法读取GPU显存中的帧，所以抛出了Impossible to convert between the formats的错误。

解决方案：全GPU链路处理 #

要解决这个问题，我们需要确保从解码、缩放再到编码的全流程都在GPU中完成，避免帧回传到CPU。以下是修正后的命令：

方法1：简化版命令

/usr/local/bin/ffmpeg -y -v warning \
  -hwaccel cuda \
  -hwaccel_output_format cuda \
  -c:v hevc_cuvid \
  -an -sn -dn \
  -reconnect_at_eof 1 -reconnect_streamed 1 -reconnect_on_network_error 1 \
  -i http://1.2.3.4:8794 \
  -vf scale_npp=1280:720:format=yuv420p \
  -c:v h264_nvenc \
  -pix_fmt yuv420p \
  test_hevc.mp4

方法2：明确指定硬件设备（更稳妥）

/usr/local/bin/ffmpeg -y -v warning \
  -init_hw_device cuda=cu:0 \
  -filter_hw_device cu \
  -hwaccel cuda \
  -hwaccel_output_format cuda \
  -c:v hevc_cuvid \
  -an -sn -dn \
  -reconnect_at_eof 1 -reconnect_streamed 1 -reconnect_on_network_error 1 \
  -i http://1.2.3.4:8794 \
  -vf hwupload_cuda,scale_npp=1280:720:format=yuv420p \
  -c:v h264_nvenc \
  -pix_fmt yuv420p \
  test_hevc.mp4

关键参数说明 #

• -hwaccel cuda: 指定使用CUDA硬件加速解码
• -hwaccel_output_format cuda: 强制解码后的帧保留在GPU显存中（输出CUDA硬件帧），而非回传到CPU
• scale_npp=1280:720:format=yuv420p: 让GPU缩放滤镜直接将10bit的p010le格式转换为8bit的yuv420p，一步完成缩放和格式转换
• -init_hw_device/-filter_hw_device: 明确指定GPU设备，确保滤镜链使用正确的硬件上下文

额外注意事项 #

1. 从你的编译配置来看，已经正确启用了--enable-cuda-nvcc和--enable-libnpp，这是GPU滤镜工作的前提，无需调整。
2. 如果遇到帧缓冲区不足的问题，可以添加-extra_hw_frames 64参数来增加硬件帧缓存。
3. 对于8bit HEVC输入，上述命令同样适用，scale_npp会自动适配输入格式。

内容的提问来源于stack exchange，提问作者JanZg