Mac OS 12.5下Rcpp调用std::sort出现段错误求助

问题背景 #

一段基于Rcpp实现的近邻查找代码在Linux系统运行正常，但在Mac OS环境下触发段错误，经排查确认问题出在std::sort函数的调用上，代码语法层面未发现明显错误。

相关代码如下：

find_nn_corr.cpp #

#include <Rcpp.h>
#include <algorithm>

using namespace Rcpp;
using namespace std;

/*
    Find ordered nearest neighbors based on a correlation Matrix. 
    Assuming the absolute value of the correlation is monotonically 
    decreasing with distance.
    Returns an n X (m + 1) matrix similar to `GpGp::find_ordered_nn`.
*/
// [[Rcpp::export]]
IntegerMatrix find_nn_corr(const NumericMatrix &corrMat, int m){
    int n = corrMat.rows();
    IntegerMatrix NN(n, m + 1);
    NN.fill(NA_INTEGER);
    NN(0, 0) = 0;
    for(int i = 1; i < n; i++){
        int *order = new int[i + 1];
        iota(order, order + i + 1, 0);
        sort(order, order + i + 1, [&corrMat, &i](int &j, int &k){
            return corrMat(j, i)>=corrMat(k, i); });
        for(int j = 0; j < min(m + 1, i + 1); j++)
            NN(i, j) = order[j];
        delete[] order;
    }
    return NN;
}

test.R #

Rcpp::sourceCpp("find_nn_corr.cpp")
set.seed(123)
n <- 100
some_matrix <- matrix(runif(n * n), n , n)
cov_mat <- some_matrix %*% t(some_matrix)
sd_vec <- sqrt(diag(cov_mat))
corr_mat <- t(t(some_matrix / sd_vec) / sd_vec)
m <- 10
NNarray <- find_nn_corr(cov_mat, m)

问题根源 #

Mac OS使用LLVM/libc标准库，而Linux通常使用GNU libstdc，两者对std::sort的实现细节存在差异，其中核心问题在于比较函数违反了严格弱序规则：

std::sort要求传入的比较函数必须满足严格弱序，即对于任意两个元素a和b：

1. 不能同时存在comp(a,b)和comp(b,a)为真
2. 如果comp(a,b)和comp(b,c)为真，则comp(a,c)必须为真
3. 如果a和b不可比较（!comp(a,b)且!comp(b,a)），b和c不可比较，则a和c也必须不可比较

原代码中的比较逻辑return corrMat(j, i)>=corrMat(k, i);当两个元素的相关值相等时，comp(j,k)和comp(k,j)都会返回true，直接违反了严格弱序的第一条规则。这种情况下，std::sort的内部逻辑会陷入混乱，引发未定义行为——Linux下的libstdc可能恰好未触发崩溃，但Mac的libc对这种错误更敏感，直接表现为段错误。

修复方案 #

将比较函数改为严格大于的逻辑，确保满足严格弱序：

sort(order, order + i + 1, [&corrMat, i](int j, int k){
    return corrMat(j, i) > corrMat(k, i); 
});

同时，建议使用std::vector代替手动的new/delete内存分配，避免潜在的内存管理问题，代码更简洁安全：

// 替换原有的int* order = new int[i+1];和delete[] order;
vector<int> order(i + 1);
iota(order.begin(), order.end(), 0);
sort(order.begin(), order.end(), [&corrMat, i](int j, int k){
    return corrMat(j, i) > corrMat(k, i); 
});
// 后续赋值逻辑不变
for(int j = 0; j < min(m + 1, i + 1); j++)
    NN(i, j) = order[j];

验证效果 #

修改后重新编译运行测试代码，Mac OS下的段错误将消失，同时保证代码在Linux和Mac OS平台的一致性与稳定性。

内容的提问来源于stack exchange，提问作者Sam Cao