VLC-Android解码器流水线添加ImageReader支持后Medicodec dequeue_out失败问题排查

看起来你在给VLC-Android的解码器流水线集成ImageReader支持时遇到了挺棘手的问题——普通buffer模式下dequeue_out（封装的AMediaCodec_dequeueOutputBuffer）能正常返回有效值，但切换到ImageReader模式就返回无效负值，直接导致OutThread中止。结合你贴的OutThread代码，我梳理了几个可能的核心原因和对应的排查方向：

1. ImageReader模式与MediaCodec输出机制的根本冲突 #

这是最关键的问题：当MediaCodec配置为输出到ImageReader的Surface时，它的输出缓冲区逻辑和普通buffer模式完全不同。

• 普通buffer模式：MediaCodec会把解码后的帧放到可出列的缓冲区队列，你需要通过AMediaCodec_dequeueOutputBuffer获取索引，再操作缓冲区。
• ImageReader模式：MediaCodec直接把解码后的帧渲染到ImageReader绑定的Surface，不会将输出缓冲区加入dequeue队列。这时候调用AMediaCodec_dequeueOutputBuffer（也就是你代码里的p_sys->api.dequeue_out），通常会返回INFO_TRY_AGAIN_LATER这类负值，而VLC现有代码对这类返回值的处理逻辑是直接判定为错误：

  if (i_index == MC_API_ERROR) {
      msg_Warn(p_dec, "Failure in MediaCodec.dequeueOutputBuffer");
      break;
  }
  // ... 后续如果i_index不是>=0且不是指定的INFO_*值，会走到else break;
  

  这直接触发了OutThread的中止逻辑。

2. OutThread中ImageReader的处理流程逻辑倒置 #

看你代码里的ImageReader分支：

if (p_sys->api.b_support_imagereader) {
    if (i_index > 0) {
        p_sys->api.release_out(&p_sys->api, i_index, true);
        if (p_sys->api.b_support_imagereader && !p_sys->b_img_ready) {
            vlc_cond_wait(&p_sys->img_cond, &p_sys->lock);
        }
        p_sys->b_img_ready = false;
        i_ret = p_sys->api.acquire_latest_image(&p_sys->api, i_index, &out);
    } else if (i_index == MC_API_INFO_OUTPUT_FORMAT_CHANGED) {
        p_sys->api.update_format(&p_sys->api, i_index, &out);
    }
}

这里的逻辑完全依赖dequeue_out返回有效索引，但在ImageReader模式下，i_index > 0的情况根本不会发生。正确的流程应该是：

• 当启用ImageReader时，OutThread不需要调用dequeue_out，而是直接等待ImageReader的图像可用信号（通过img_cond）
• 收到信号后，直接调用acquire_latest_image获取帧，跳过整个dequeue_out的逻辑分支。

3. ImageReader的同步信号触发不及时/未正确实现 #

代码里用到了p_sys->b_img_ready和p_sys->img_cond来同步图像可用事件，但你需要确保：

• 你已经给ImageReader设置了OnImageAvailableListener
• 在监听器的onImageAvailable回调中，正确执行了p_sys->b_img_ready = true，然后调用vlc_cond_signal(&p_sys->img_cond)来唤醒OutThread
• 如果回调在不同线程，还要注意加锁保护b_img_ready的读写，避免竞态条件

4. 错误处理逻辑未适配ImageReader场景 #

现有代码对dequeue_out返回值的处理只兼容普通buffer模式：

if (i_index == MC_API_ERROR) {
    msg_Warn(p_dec, "Failure in MediaCodec.dequeueOutputBuffer");
    break;
}
// ...
} else break;

即使你因为格式变化需要调用一次dequeue_out（比如获取INFO_OUTPUT_FORMAT_CHANGED），后续调用返回的INFO_TRY_AGAIN_LATER也会被错误判定为致命错误。你需要扩展错误处理逻辑：

• 在ImageReader模式下，若dequeue_out返回INFO_TRY_AGAIN_LATER这类非致命INFO值，应该回到循环等待，而不是直接break中止线程
• 只把真正的错误（比如MC_API_ERROR）当成需要终止线程的情况

快速修复的核心思路 #

结合代码，你可以先尝试调整OutThread的核心逻辑分支：

// 在OutThread的循环中，先判断是否启用ImageReader
vlc_mutex_unlock(&p_sys->lock);
if (p_sys->api.b_support_imagereader) {
    // ImageReader模式：等待图像可用信号，直接获取图像
    vlc_mutex_lock(&p_sys->lock);
    while (!p_sys->b_img_ready && !p_sys->b_aborted && !p_sys->b_flush_out) {
        vlc_cond_wait(&p_sys->img_cond, &p_sys->lock);
    }
    if (p_sys->b_flush_out || p_sys->b_aborted) {
        // 处理flush或中止逻辑
        vlc_mutex_unlock(&p_sys->lock);
        continue;
    }
    p_sys->b_img_ready = false;
    vlc_mutex_unlock(&p_sys->lock);
    // 直接调用acquire_latest_image获取输出
    struct mc_api_out out;
    int i_ret = p_sys->api.acquire_latest_image(&p_sys->api, -1, &out);
    // 后续处理out的逻辑...
} else {
    // 普通buffer模式：走原有的dequeue_out流程
    i_index = p_sys->api.dequeue_out(&p_sys->api, -1);
    // 原有dequeue后的处理逻辑...
}

这样就能彻底分离两种模式的输出处理逻辑，避免在ImageReader模式下错误调用dequeue_out。

内容来源于stack exchange