Armadillo矩阵乘积赋值子矩阵的内存效率与优化咨询

问题背景 #

给定N×s维度的Armadillo矩阵A、B，以及M×s维度的大矩阵X：

arma::mat A(N, s, arma::fill::randu);
arma::mat B(N, s, arma::fill::randu);
arma::mat X(M * s, M * s, arma::fill::randu);

当前通过循环将A.t() * B的结果写入X的对角子块：

X.submat(j * s, j * s, (j + 1) * s - 1, (j + 1) * s - 1) = A.t() * B;

因M约为1000，需确认该写法是否会产生临时矩阵副本，并寻找无临时副本的高效实现方式（不直接操作内存指针），该问题关联Block-Lanczos算法。

核心问题分析 #

当前写法会生成临时矩阵副本：A.t() * B会先计算出一个s×s的临时矩阵，再将其内容拷贝到X的子块中。对于M=1000的循环场景，每次循环都要创建、销毁临时矩阵并执行拷贝操作，会带来额外的内存开销与CPU消耗。

无临时副本的高效实现方式 #

方式1：直接用arma::gemm写入子块 #

Armadillo的gemm函数封装了BLAS的矩阵乘法，支持将计算结果直接写入预先分配好的内存区域，完全避免临时矩阵的创建。

代码示例：

// 直接将A.t() * B的结果写入X的目标子块
arma::gemm(X.submat(j * s, j * s, (j + 1) * s - 1, (j + 1) * s - 1), A.t(), B, "N", "N");

参数"N"表示不对输入矩阵进行额外转置（因A已通过t()完成转置），BLAS会直接将乘法结果写入X的子块内存。

方式2：预计算乘积后循环拷贝（适用于A、B固定的场景） #

如果在Block-Lanczos算法的循环中，A和B的内容保持不变，可以预先计算一次A.t() * B，之后在循环中直接拷贝该结果到X的子块，仅产生一次临时矩阵开销：

// 预计算乘积，仅执行一次
arma::mat AB_product = A.t() * B;

// 循环中直接拷贝预计算结果
for (int j = 0; j < M; ++j) {
    X.submat(j * s, j * s, (j + 1) * s - 1, (j + 1) * s - 1) = AB_product;
}

总结 #

• 当前的直接赋值写法会产生临时副本，不适合大循环场景
• 若A、B在循环中变化，使用arma::gemm直接写入子块是最优无临时副本方案
• 若A、B固定，预计算乘积后循环拷贝的内存与CPU开销更低

内容的提问来源于stack exchange，提问作者Qant123