C++处理重复索引时OpenCV数组快速递增优化方案咨询

原始代码的主要性能瓶颈来自三个方面：

• cv::Mat::at 方法默认携带运行时边界检查，每次调用都有额外开销
• 重复索引会导致同一内存地址被多次写入，浪费内存带宽
• 串行循环没有利用多核CPU的算力

你可以按照实现成本从低到高选择以下优化方案：

方案1：替换边界检查的at访问，改用直接指针操作 #

代码改动最小，不需要调整业务逻辑，通常可以带来30%~50%的性能提升：

float* img_ptr = image.ptr<float>();
// step1()返回单通道下每行的元素个数，对应float类型等价于cols
int step = image.step1();
for (const auto& e: Y) {
   img_ptr[e.y * step + e.x] += 1; 
}

如果无法保证Y中的索引都在image的合法范围内，可以提前遍历一次Y过滤掉非法索引，避免运行时每次访问都做边界判断。

方案2：先统计索引出现频率，再批量更新 #

适合Y存在大量重复索引的场景，重复率越高性能提升越明显，最高可达到10倍以上：

std::unordered_map<uint64_t, int> cnt;
for (const auto& e: Y) {
    // 把y和x拼接为64位键，若图像尺寸不超过65535*65535可改用32位键降低开销
    uint64_t key = (static_cast<uint64_t>(e.y) << 32) | static_cast<uint32_t>(e.x);
    cnt[key]++;
}

float* img_ptr = image.ptr<float>();
int step = image.step1();
for (const auto& item : cnt) {
    int y = static_cast<int>(item.first >> 32);
    int x = static_cast<int>(item.first & 0xFFFFFFFF);
    img_ptr[y * step + x] += item.second;
}

该方案通过减少重复内存写入操作降低开销，重复率超过20%时收益远高于哈希统计的成本。

方案3：并行化处理 #

适合Y重复率极低的场景，性能提升幅度和CPU核心数正相关：

float* img_ptr = image.ptr<float>();
int step = image.step1();
int y_len = Y.size();
// 编译时需要开启OpenMP支持
#pragma omp parallel for
for (int i = 0; i < y_len; ++i) {
    const auto& e = Y[i];
    // 确定无重复索引可以直接写入，有重复需要用原子操作避免数据竞争
    __sync_fetch_and_add(&img_ptr[e.y * step + e.x], 1);
}

注意原子操作会比普通写入慢，只有当Y的重复率低于5%时该方案才划算。

方案4：GPU加速 #

如果是极致性能需求场景，且设备支持CUDA，可以将image和Y数据上传到GPU显存，用CUDA核函数完成递增操作，10万量级的索引处理耗时可以降到1ms以内，性能提升10倍以上。

内容的提问来源于stack exchange，提问作者titus