CUVID Video Codec SDK解码H264 RTP包无帧返回问题求助

问题背景 #

我正在处理RTSP流的H264解码（已关闭SVC），当检测到IDR NALU时，会将关联的SPS、PPS和IDR帧NALU传入基于NVIDIA Video Codec SDK的NvDecoder，但调用Decode后返回值始终为0，无任何帧解码。尝试过将NALU展平为一维数组、仅传入I帧NALU，问题依旧。

核心解码代码如下：

NvDecoder dec(cuContext, true, cudaVideoCodec_H264);
nFrameReturned = dec.Decode(nalu.data, nalu.len);

Decode函数实现：

int NvDecoder::Decode(const uint8_t *pData, int nSize, int nFlags, int64_t nTimestamp)
{
    m_nDecodedFrame = 0;
    m_nDecodedFrameReturned = 0;
    CUVIDSOURCEDATAPACKET packet = { 0 };
    packet.payload = pData;
    packet.payload_size = nSize;
    packet.flags = nFlags | CUVID_PKT_TIMESTAMP;
    packet.timestamp = nTimestamp;
    if (!pData || nSize == 0) {
        packet.flags |= CUVID_PKT_ENDOFSTREAM;
    }
    NVDEC_API_CALL(cuvidParseVideoData(m_hParser, &packet));

    return m_nDecodedFrame;
}

核心问题排查与解决步骤 #

1. 给NALU添加H264起始码 #

NVIDIA NVDEC解码器要求输入带起始码的原始H264字节流，但RTP解包后的NALU通常只有NALU头部和payload，缺少0x000001或0x00000001起始码，导致解码器无法识别。

处理示例代码：

// 给单个NALU添加4字节起始码
std::vector<uint8_t> formattedNalu;
const uint8_t startCode[] = {0x00, 0x00, 0x00, 0x01};
formattedNalu.insert(formattedNalu.end(), std::begin(startCode), std::end(startCode));
formattedNalu.insert(formattedNalu.end(), nalu.data, nalu.data + nalu.len);

// 传入解码器
nFrameReturned = dec.Decode(formattedNalu.data(), formattedNalu.size());

2. 严格遵循SPS→PPS→IDR帧的传入顺序 #

解码器必须先获取SPS（NALU类型7）和PPS（NALU类型8）初始化图像参数，才能解码IDR帧（NALU类型5）。顺序颠倒或缺失任一参数都会导致解码失败。

正确流程：

• 先传入带起始码的SPS NALU
• 再传入带起始码的PPS NALU
• 最后传入带起始码的IDR帧NALU

可分三次调用Decode，也可将三者按顺序拼接成连续字节流一次性传入。

3. 修正Decode函数的返回值统计逻辑 #

当前Decode函数开头直接重置m_nDecodedFrame和m_nDecodedFrameReturned，但NVDEC解码是异步的，cuvidParseVideoData仅负责喂数据给解析器，实际解码完成的帧通过回调函数（如OnPictureDecode）返回，开头重置会导致计数完全错误。

修改方式：

• 移除Decode函数开头的m_nDecodedFrame = 0;和m_nDecodedFrameReturned = 0;
• 在解码回调函数中正确递增m_nDecodedFrame（比如NvDecoder的OnPictureDecode方法中，每收到一帧就将该变量加1）
• 返回m_nDecodedFrameReturned而非m_nDecodedFrame，前者用于统计已返回的帧数

4. 验证NALU的完整性与类型正确性 #

• 检查传入的SPS、PPS、IDR帧NALU是否完整无截断（可通过打印NALU长度、对比RTP包负载长度验证）
• 确认NALU类型正确：SPS对应类型7，PPS对应类型8，IDR帧对应类型5（通过NALU头部第1字节的低5位判断）

额外注意事项 #

• 确保cuContext是有效的CUDA上下文且已正确初始化
• NvDecoder初始化时第二个参数设为true表示开启自动分辨率适配，需确保SPS正确传入才能触发适配
• 可添加cuvidParseVideoData的错误码检查，排查API调用是否失败

内容的提问来源于stack exchange，提问作者Vitaly Varyvdin