Linux下如何用OpenMax解码H.264视频？代码异常问题排查

结合你遇到的现象——发送数据后无输出，仅Flush时返回空缓冲区，大概率是解码流程或输入数据的细节没处理对，咱们一步步拆解排查：

1. 先确认输入数据的正确性与提交方式 #

• OpenMax H.264解码器要求输入完整的NAL单元，你要确保提交的数据流是正确分割的NALU：每个NALU必须以0x00000001或0x000001起始。如果你的输入是未封装的裸流，别把多个NALU塞进同一个输入缓冲区，也别提交不完整的NALU，否则解码器会直接忽略，不会触发解码输出。
• 检查OMX_FillBuffer时设置的nFilledLen和nOffset：这两个参数要准确对应缓冲区里有效数据的长度和起始位置，解码器只会处理这个范围内的数据，参数错了等于白提交。

2. 解码流程的顺序是不是搞反了？ #

这是新手最容易踩的坑：解码器需要先拿到输出空缓冲区，才会处理输入数据。正确的流程是：

• 初始化解码器后，先给输出端口通过OMX_EmptyBufferDone提交空缓冲区；
• 再给输入端口通过OMX_FillBuffer提交带数据的缓冲区。
  如果你的代码里先提交了输入数据，却没给解码器留输出缓冲区，它会一直等待可用的输出缓冲区，自然不会触发FillBufferDone。

3. 解码器的核心配置有没有到位？ #

• 启动解码器（OMX_CommandStateSet切换到OMX_StateExecuting）之前，必须把视频的关键参数传给解码器：比如分辨率、H.264的Profile/Level。你要检查OMX_PARAM_PORTDEFINITIONTYPE中输入端口的format.video字段，是不是和你的H.264流完全匹配。如果解码器不知道视频的基本信息，会处于等待状态，不会处理输入。
• 确认输入输出端口的缓冲区配置：调用OMX_UseBuffer时，要给两个端口都申请足够数量的缓冲区（一般输入2-3个，输出3-4个）。如果输出端口没有可用缓冲区，解码器无法输出解码后的数据。

4. 关键帧与SPS/PPS的处理 #

• H.264解码必须先拿到SPS和PPS这两个参数集NALU，有些解码器要求单独提交SPS和PPS，不能和I帧混在同一个缓冲区里。你要确保在提交第一个I帧之前，已经把SPS和PPS分别作为独立的输入缓冲区提交给解码器，并且标记正确的nFlags（比如OMX_BUFFERFLAG_CODECCONFIG）。
• 第一个提交的帧必须是I帧（关键帧），并且要在OMX_BUFFERHEADERTYPE的nFlags中设置OMX_BUFFERFLAG_SYNCFRAME，否则解码器无法初始化解码上下文，会一直等待关键帧。

5. 回调与线程的小细节 #

• 虽然Flush时能触发回调，说明OMX_SetCallbacks注册成功，但还是要确认回调线程的执行环境：OpenMax的回调是在组件内部线程触发的，你的应用不能阻塞这个线程（比如主线程死循环没让出CPU），否则回调可能无法及时执行。
• 检查FillBufferDone回调里的pBuffer->nFilledLen，如果是0，说明解码器根本没解码出有效数据，问题还是出在输入或配置上。

6. 实用的排查技巧 #

• 给所有OpenMax API调用加日志，检查返回值是否都是OMX_ErrorNone：比如OMX_SendCommand启动解码器是否成功，OMX_FillBuffer提交数据是否无错误。任何非成功的返回值都是排查线索。
• 用标准测试流验证：找一段已知可用的H.264裸流（比如只有关键帧的测试视频），替换你的输入数据。如果测试流能正常触发FillBufferDone，说明你的原始输入数据流有问题；如果还是不行，就是代码流程或配置的问题。
• 查平台文档：不同硬件平台的OpenMax解码器可能有特殊要求（比如某些安卓平台的解码器需要特定的缓冲区对齐方式），对照平台文档检查你的配置。

内容的提问来源于stack exchange，提问作者Robotex