单片机C语言实现Neural Network：整数运算精度异常及float与int转换防overflow问题求助

兄弟，我太懂你这种在单片机上抠神经网络性能的痛苦了——为了提速换成整数运算，结果速度上去了但计算结果全错，搁谁都挠头！我之前做类似项目踩过好几个同款坑，给你捋捋问题出在哪，以及怎么解决。

首先你得明确：你在MATLAB里用activation((scaled_input(1) * scaled_weight(1) / scale_factor) + scaled_bias(1))能得到不错的精度，但移植到C就拉胯，核心问题大概率是整数溢出没处理、舍入方式和MATLAB不对齐，还有C和MATLAB在数值运算上的细微差异。

一、先把整数溢出这个头号大坑填上 #

你用2^15（也就是32768）当缩放因子，那两个16位整数相乘的结果是32位的（比如32768*32768=1073741824，远超16位int的最大值32767），如果你的C代码里还在用16位int存中间结果，那必然会溢出，结果直接就错得离谱！

• 我亲测有效的解决办法：所有参与乘法的变量、中间计算结果，全用int32_t（32位整数）来存储，计算完再做缩放和舍入。
• 举个具体的代码例子，输入是int，权重是预缩放的int，乘法要这么写：

  int32_t product = (int32_t)scaled_input[i] * scaled_weight[j];
  

  先把其中一个变量强制转成int32_t，避免16位乘16位直接溢出成错误的16位值。

二、缩放和舍入细节必须和MATLAB对齐 #

MATLAB做除法默认是浮点除法，会保留小数还自动做了四舍五入，但C的整数除法是直接砍掉小数部分，误差累积多了结果自然和MATLAB对不上。

• 正确操作：在除法前加上缩放因子的一半来实现四舍五入，而不是直接截断。比如原来的product / scale_factor改成(product + scale_factor/2) / scale_factor
  这样当小数部分≥0.5的时候会进一位，完全对齐MATLAB的精度逻辑。
• 小技巧：把scale_factor/2预定义成宏，比如#define SCALE_HALF 16384（因为2^{15的一半是2}14），写代码更方便。

三、整数版ReLU层的正确实现姿势 #

你现在有float版的NN_relu，转成整数版的时候要注意顺序：先做完加权求和+偏置的整数运算，再做ReLU（负数置0）。给你一个我用过的参考实现：

#define SCALE_FACTOR 32768
#define SCALE_HALF 16384

void NN_relu_int(int r1, int c1, int32_t m1[][c1], int r2, int c2, const int32_t m2[][c2], const int32_t bias[][c2], int32_t result[][c2]) {
    // 矩阵乘法：输入m1 × 权重m2
    for (int i = 0; i < r1; i++) {
        for (int j = 0; j < c2; j++) {
            int32_t sum = 0;
            for (int k = 0; k < c1; k++) {
                // 强制转int32_t防溢出
                sum += (int32_t)m1[i][k] * m2[k][j];
            }
            // 加偏置 → 带四舍五入的缩放
            sum += bias[0][j]; // 假设bias是1×c2的维度
            int32_t scaled_sum = (sum + SCALE_HALF) / SCALE_FACTOR;
            // ReLU激活：负数直接置0
            result[i][j] = scaled_sum > 0 ? scaled_sum : 0;
        }
    }
}

这里所有中间变量用int32_t，乘法强制转类型防溢出，缩放时加偏移量做四舍五入，完全对齐你MATLAB里的逻辑。

四、float转int预缩放时的防溢出处理 #

你提到权重和偏置是预缩放的，那把MATLAB里的float转成C的int时也得注意溢出：

• 比如MATLAB里的权重是1.2，缩放后是1.2*32768≈39321，这已经超过16位int的最大值32767了！直接转成int就会溢出成负数，结果肯定错。
• 解决办法：要么把缩放因子调小（比如用2^14=16384），要么用int32_t存储预缩放后的权重/偏置，避免转类型时溢出。
• 另外，转的时候要用四舍五入：MATLAB里用round(weight * scale_factor)，别用floor或者直接转int，这样转出来的整数权重才和MATLAB的计算逻辑完全一致。

五、快速定位问题的验证步骤 #

拿一组极小的测试数据，比如输入[0.5, -0.2]，权重[0.3, -0.1]，偏置[0.1]，分别在MATLAB和C里跑，每一步都打印出来：

• MATLAB里整数运算的每一步结果
• C里的乘积、求和、缩放后的每一步值
  对比每一步的差异，分分钟就能找到哪里出问题了，比瞎猜效率高多了。

最后说回你现在的float版C代码，要是想转成整数运算，核心就是：用int32_t存中间结果防溢出，对齐MATLAB的舍入方式，预缩放时注意权重范围避免溢出，这样精度就能和MATLAB的整数运算结果对齐了。

备注：内容来源于stack exchange，提问作者Pranav