为何C++ OpenCV filter2D比MATLAB conv2慢3-4倍？（VS2022环境）

我正尝试用C++（Visual Studio 2022环境）重实现一个依赖卷积的MATLAB算法，但测试等价实现时发现，OpenCV的filter2D运行速度比MATLAB的conv2慢3-4倍，请问这是什么原因？

测试代码 #

C++代码 #

#include <opencv2/core/core.hpp>
#include <opencv2/opencv.hpp>
#include <opencv2/imgcodecs.hpp>
#include <opencv2/highgui.hpp>
#include <iostream>
#include <chrono>
#include <numeric>

using namespace cv;

int main()
{
    std::string image_path = samples::findFile("Starry_Night.jpg");
    Mat img = imread(image_path, IMREAD_GRAYSCALE);

    if (img.empty())
    {
        std::cout << "Could not read the image: " << image_path << std::endl;
        return 1;
    }

    Mat kernelH(1, 3, CV_32F);
    kernelH.at<float>(0, 0) = 1.0f;
    kernelH.at<float>(0, 1) = 0.0f;
    kernelH.at<float>(0, 2) = -1.0f;

    Mat x_derivative;

    std::array<float,1000> times = { 0 };

    for (int i = 0; i < 1000; i++) {
        std::chrono::steady_clock::time_point begin = std::chrono::steady_clock::now();
        filter2D(img, x_derivative, -1, kernelH, Point(-1, -1), 0, BORDER_DEFAULT);
        std::chrono::steady_clock::time_point end = std::chrono::steady_clock::now();
        times[i] = std::chrono::duration_cast<std::chrono::milliseconds> (end - begin).count();
    }

    double average = std::accumulate(times.begin(), times.end(), 0.0) / times.size();

    std::cout << average;

    imshow("Display window", x_derivative);
    int k = waitKey(0); // Wait for a keystroke in the window
    if (k == 's')
    {
        imwrite("starry_night.png", img);
    }
    return 0;
}

MATLAB代码 #

img = rgb2gray(imread("Starry_Night.jpg"));

kernel = [-1 0 1];
times = zeros(1000,1);

for i = 1:1000
    
    tic
    der = conv2(img, kernel);
    times(i) = toc;
    
end

mean(times)*1000

原因分析及优化方案 #

核心差异点 #

• 编译器优化等级：Visual Studio默认Debug模式关闭所有优化，保留大量调试信息，运行速度远低于发布版；而MATLAB本身是高度优化的二进制程序，直接用最优路径执行。
• 数据类型不匹配：OpenCV中输入图像是CV_8U（8位无符号灰度图），但卷积核是CV_32F，filter2D会在内部做类型转换，额外消耗计算资源；MATLAB的conv2虽也会提升类型，但底层优化对这类转换的处理更高效。
• 硬件加速支持：OpenCV默认在Release模式下会启用Intel IPP等硬件加速库，但如果你的编译环境未链接这些库，会回退到纯C++实现，速度大幅下降；MATLAB则默认集成了各类硬件加速优化。
• 卷积算法优化：对于1x3这类小核，MATLAB的conv2会调用专门优化的滑动窗口或SIMD指令实现；而未启用IPP的OpenCVfilter2D可能用通用卷积逻辑，对小核的针对性优化不足。
• 边界处理逻辑：MATLABconv2默认是全卷积（输出尺寸为图像尺寸+核尺寸-1），而OpenCVfilter2D默认是同尺寸卷积（通过边界填充保持输出与输入同大），不过此差异下MATLAB计算量更大却更快，更说明其他优化因素的影响。

优化建议 #

1. 切换到Release模式编译：在Visual Studio中切换编译模式为Release，开启/O2优化选项（默认已开启），消除调试开销。
2. 统一数据类型：将输入图像转换为与卷积核一致的CV_32F类型，避免内部自动转换：

   Mat img_float;
   img.convertTo(img_float, CV_32F);
   // 后续用img_float作为filter2D的输入
   

3. 确认OpenCV硬件加速状态：在代码中加入std::cout << cv::getBuildInformation() << std::endl;，查看编译信息中是否有IPP: YES。若未启用，需重新编译OpenCV并链接IPP库，或使用预编译的带IPP加速的OpenCV版本。
4. 使用专用替代函数：你的卷积核是x方向差分，可直接用OpenCV专门优化的Sobel函数替代filter2D，速度会显著提升：

   Sobel(img_float, x_derivative, CV_32F, 1, 0, 3);
   

5. 对齐边界处理逻辑：若需要与MATLABconv2（全卷积）结果完全一致，可先手动填充图像再卷积：

   Mat padded_img;
   copyMakeBorder(img_float, padded_img, 0, 0, 1, 1, BORDER_CONSTANT, 0);
   filter2D(padded_img, x_derivative, -1, kernelH, Point(-1, -1), 0, BORDER_CONSTANT);
   

内容的提问来源于stack exchange，提问作者Matt Caius