GCC无法检测static inline函数数组越界问题咨询

原始代码 #

extern void myprint(unsigned char *);

static inline void
myfunc(unsigned char *buf)
{
    for (unsigned int i = 0; i < 20; i++) {
        buf[i] = i;
    }
}

int
main(void)
{
    unsigned char buf[10];
    myfunc(buf);
    myprint(buf);

    return 0;
}

编译命令 #

$ gcc.exe -O2 -pedantic -Wextra -Wall -Wstringop-overflow -Wuninitialized -Wunused -Warray-bounds=2 -Wformat-overflow -Wstringop-overread -g  -c C:\temp\cb\main.c -o build\mingw\obj\main.o
$ gcc.exe  -o build\mingw\test.exe build\mingw\obj\main.o build\mingw\obj\mod.o  -O2

GCC版本信息 #

$ gcc --version
gcc (i686-posix-sjlj-rev1, Built by MinGW-W64 project) 11.2.0
Copyright (C) 2021 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.

问题描述 #

当将inline函数直接写在main()函数内部时，GCC会发出数组越界警告，但无法检测到上述static inline函数的同款越界问题。生成的汇编代码显示循环确实执行20次，运行时存在真实越界。

2023年12月1日09:13编辑：
修改myfunc()的API后，使用-O2编译时GCC仍未发出警告：

#include <stddef.h>

extern void myprint(unsigned char *);

static inline void
myfunc(unsigned char *buf, size_t size)
{
    for (unsigned int i = 0; i < size + 1; i++) {
        buf[i] = i;
    }
}

int
main(void)
{
    unsigned char buf[10];
    myfunc(buf, 10);
    myprint(buf);

    return 0;
}

咨询该现象的原因。

原因解析 #

1. static inline函数的编译特性限制
   GCC对static inline函数的处理分两种情况：要么将代码内联到调用点，要么生成独立的函数体。在分析static inline函数本身时，编译器无法得知传入指针buf对应的数组实际长度——参数仅为指针，没有携带数组大小的元信息，因此无法判断循环中的buf[i]是否越界。而当函数直接写在main内部时，数组定义和循环逻辑处于同一作用域，编译器可直接关联数组大小与循环边界，从而触发警告。

2. 优化级别对静态分析的影响
   -O2优化级别下，编译器优先侧重代码生成效率，静态分析的深度会被调整。即使传入size参数，size + 1的计算在函数内部基于参数值，编译器默认不会假设传入的size等于调用点数组的真实长度，无法在函数内部追溯到调用点的数组大小信息，也就无法推断出i < size + 1会导致越界访问。

3. 警告选项的适用范围
   你启用的-Warray-bounds=2等选项主要针对编译期可确定的常量边界。当边界依赖函数参数（即使调用点传入的是常量），编译器的跨函数数据流分析能力有限，无法完成调用点与函数内部的关联校验，因此无法触发警告。若要检测这类场景，需要依赖更专业的静态分析工具，或通过宏、_Static_assert等方式在编译期约束参数与数组大小的匹配关系。

内容的提问来源于stack exchange，提问作者pozzugno