avcodec_encode_video2设置m_imageHeight为1536时内存占用过高原因咨询

你遇到的这个问题和Intel QSV（Quick Sync Video）编码器的硬件特性直接相关，1536这个数值刚好触发了编码器内存分配的特殊逻辑，而其他非对齐高度则避开了这个问题。我来帮你拆解原因并给出可行的解决方案：

问题根源分析 #

Intel QSV编码器依赖GPU硬件加速单元处理视频帧，这些单元对输入分辨率有严格的对齐要求（通常是16或32的整数倍）：

• 1536是32的整数倍（1536=32×48），同时你的代码使用AV_PIX_FMT_NV12格式，其色度平面高度是亮度平面的1/2，1536的1/2=768也是32的倍数，双重对齐触发了编码器默认的内存分配策略——为了匹配硬件处理块的大小，编码器会分配远大于实际需求的临时缓冲区，导致内存占用飙升。
• 当高度设为1535、1537这类非对齐值时，QSV会自动对分辨率进行调整（比如向上或向下取整到最近的对齐值），此时内存分配逻辑回到正常状态，不会出现异常占用。

可行解决方案 #

1. 手动覆盖编码器对齐参数 #

在initialize()函数中，设置完编码器上下文的基本参数后，添加以下代码强制指定对齐规则，避免硬件自动分配超大缓冲区：

// 强制设置对齐参数，覆盖硬件默认逻辑
av_opt_set_int(m_pCodecContext->priv_data, "width_alignment", 16, 0);
av_opt_set_int(m_pCodecContext->priv_data, "height_alignment", 16, 0);
// 确保输出格式与输入一致
av_opt_set(m_pCodecContext->priv_data, "hwaccel_output_format", "nv12", 0);

2. 调整帧内存分配的对齐值 #

修改allocatePicture函数中av_image_alloc的对齐参数，从32改为16，让帧内存的布局更匹配编码器的硬件需求：

// 原代码
// int checkImage = av_image_alloc(frame->data, frame->linesize, width, height, pix_fmt, 32);
// 修改为
int checkImage = av_image_alloc(frame->data, frame->linesize, width, height, pix_fmt, 16);

3. 优化CBR模式的缓冲区设置 #

你开启了+CBR（恒定比特率）模式，该模式下QSV会分配较大的缓冲区维持比特率稳定。结合对齐分辨率可能加剧内存问题，可以手动缩小缓冲区大小：

// 替换原有的+CBR设置
av_opt_set(m_pCodecContext->priv_data, "rc_mode", "cbr", 0);
av_opt_set_int(m_pCodecContext->priv_data, "rc_buffer_size", m_targetBitRate / 2, 0); // 缓冲区设为比特率的1/2

4. 排查工具误报 #

你引入了vld.h（Visual Leak Detector），这类工具可能会把QSV分配的显存误判为内存泄漏。可以暂时注释掉#include <vld.h>，用系统任务管理器观察实际内存占用，确认是否真的是编码器导致的异常占用。

5. 更新FFmpeg版本 #

虽然你已经更新了Intel显卡驱动，但建议同步更新到最新官方编译的FFmpeg版本（确保带QSV完整支持）。新版本对QSV的内存管理做了不少优化，可能已经修复了这种特定分辨率下的内存过度分配问题。

额外验证步骤 #

在exportFrame函数中添加日志，打印avcodec_encode_video2的返回值和result变量，观察编码1536高度帧时是否有频繁的错误或重编码操作，这也可能导致内存累积：

success = avcodec_encode_video2(m_pCodecContext, &avPacket, m_pFrame, &result);
std::cout << "Frame " << m_frameIndex << ": encode success=" << success << ", result=" << result << std::endl;

内容的提问来源于stack exchange，提问作者陆骁剑