Python模块调用C函数触发stack smashing error问题求助

栈溢出检测（*** stack smashing detected ***）本质是GCC的栈保护机制触发了，说明你代码里栈上的缓冲区被越界写入了。结合你之前用共享库正常的情况，从这几个方向排查：

• 先查缓冲区分配与大小匹配
  别在栈上用固定大小的缓冲区（比如char buf[512]）处理动态读写长度，尤其是Python传入的长度可能超过栈缓冲区大小的情况。把栈缓冲区改成用PyMem_Malloc（符合Python内存管理，更推荐）或者malloc在堆上分配，堆内存越界虽然也有问题，但不会直接触发栈溢出检测，也更容易定位。
  另外要核对struct iovec里的iov_len是否严格等于缓冲区的可用大小，绝对不能超过——比如你分配了1024字节的缓冲区，iov_len却设成了2048，直接就踩内存了。

• 核对iovec结构体和函数参数
  检查你构造的iovec数组：每个iov_base是不是指向正确的内存区域，iov_len有没有算错。还要注意process_vm_readv/writev的参数顺序别搞反，尤其是pid、本地/远程iovec的顺序，参数传错也可能导致意外的内存写入。

• 用AddressSanitizer精准定位
  编译C扩展时加上地址 sanitizer 选项，直接定位到越界的代码行。修改setup.py的扩展配置：

  from setuptools import setup, Extension
  
  ext = Extension(
      "your_module",
      sources=["your_module.c"],
      extra_compile_args=["-g", "-fsanitize=address"],
      extra_link_args=["-fsanitize=address"]
  )
  
  setup(name="your_module", ext_modules=[ext])
  

  运行测试代码时，ASAN会直接输出哪一行代码导致了内存越界，甚至能指出越界了多少字节，比瞎猜高效多了。

• 对比共享库的正确实现
  既然之前用共享库没问题，把C扩展的代码和共享库的实现逐行对比：

  • 是不是共享库用了堆缓冲区，而C扩展改成了栈缓冲区？
  • 类型转换是不是有差异？比如Python的int转C的size_t，共享库用了正确的转换函数，C扩展却用了PyLong_AsLong()导致大数值截断？
  • 有没有处理Python传入的非法值（比如负数长度），共享库做了校验，C扩展没做？

• 检查Python到C的类型转换
  从Python获取长度、pid这类参数时，一定要用正确的转换函数：

  • 长度用PyLong_AsSize_t()，别用PyLong_AsLong()，因为size_t是无符号的，32位long存不下大长度会截断。
  • 转换后要检查返回值，如果Python传入了非整数或者负数，转换会失败，一定要处理这种错误，不然会用非法值计算缓冲区大小。

• 手动做缓冲区边界校验
  临时加个调试代码，给缓冲区末尾设个标记，读写后检查标记是否被修改：

  #define BUF_SIZE 1024
  char buf[BUF_SIZE];
  buf[BUF_SIZE - 1] = 0xBB; // 设个特殊标记
  
  // 调用process_vm_readv/writev代码
  
  if (buf[BUF_SIZE - 1] != 0xBB) {
      fprintf(stderr, "缓冲区越界了！实际写入长度可能超过%d\n", BUF_SIZE);
      // 这里可以打印实际的iov_len和缓冲区大小，对比找问题
  }
  

内容的提问来源于stack exchange，提问作者owndampu