C语言返回未知长度数组指针并转为指定长度是否为未定义行为

我实现了一个接收两个可变维度二维矩阵、返回同维度结果矩阵的函数，代码如下：

double (*sumOfMatrices(size_t rows, size_t columns, double matrixA[][columns], double matrixB[][columns]))[] {
    double (*result)[columns]= malloc(rows * sizeof *result);
    for (size_t i = 0; i < rows; i++)
    {
        for (size_t j = 0; j < columns; j++)
        {
            result[i][j]= matrixA[i][j] + matrixB[i][j];
        }
    }
    return result;
}

随后我按如下方式声明变量存储返回结果：

double (*sumResult)[n]= sumOfMatrices(m, n, matrixA, matrixB);

我有如下疑问：

• 上述写法是否属于未定义行为？编译器未给出任何提示，但我认为使用double(*)[]类型值初始化double(*)[n]类型变量属于隐式类型提升
• 是否有方法可以让函数直接返回double(*)[columns]类型的指针？

首先明确：你当前的写法不属于未定义行为，但确实存在隐式类型转换，而且这个转换不是类型提升。
C标准中double(*)[]是指向未知长度double数组的指针，double(*)[n]是指向长度为n的double数组（变长数组VLA）的指针，二者属于可隐式转换的兼容指针类型。你在函数内部实际分配的内存是按columns列的数组格式计算大小的，和外部接收时的n列内存布局完全匹配，所以运行时不会出现内存访问错误，只是类型上没有严格对齐，默认编译配置下编译器不会给出提示。

如果要让函数直接返回double(*)[columns]类型的指针，完全可以实现，只需要调整函数声明的返回类型即可。注意变长数组作为返回类型的维度必须是参数列表中已经提前声明的变量，所以参数顺序不需要改动，只需要把原返回类型里末尾的空方括号改成[columns]就行，修改后的代码如下：

double (*sumOfMatrices(size_t rows, size_t columns, double matrixA[][columns], double matrixB[][columns]))[columns] {
    double (*result)[columns] = malloc(rows * sizeof *result);
    for (size_t i = 0; i < rows; i++)
    {
        for (size_t j = 0; j < columns; j++)
        {
            result[i][j] = matrixA[i][j] + matrixB[i][j];
        }
    }
    return result;
}

修改后函数返回值类型和内部result变量的类型完全一致，外部用double (*sumResult)[n]接收时类型完全匹配，不存在任何隐式转换，开启-Wall -Wextra等严格编译警告选项也不会报类型相关的提示。
需要注意的是，这种返回变长数组指针的写法依赖C99及以上标准的VLA特性，目前GCC、Clang等主流编译器都默认支持该特性。

内容的提问来源于stack exchange，提问作者Fullaccess