C++/CUDA混合编译时extern全局变量报未定义引用链接错误

这个链接错误本质是链接器无法在所有输入目标文件、静态库中匹配到FILE2.cu.o引用的B::doors符号，绝大多数同类问题都是以下两类原因导致的：

• 静态库内部目标文件排序错误
  从报错路径能看到FILE2.cu.o是被打包进libapp.a静态库的。GNU链接器对静态库采用单遍扫描逻辑：从左到右扫输入文件时，遇到静态库只会提取当前已存在未定义引用的符号对应的目标文件，不会回头重新扫描之前扫过的静态库段。
  如果你打包libapp.a的时候，把引用B::doors的FILE2.cu.o排在了定义B::doors的FILE3.cxx.o前面，那么链接器扫到FILE2.cu.o时虽然会记录B::doors为未定义符号，但继续往后扫描时如果没有其他目标文件触发加载FILE3.cxx.o，最后就会报未定义引用错误。
• nvcc与宿主C编译器的ABI不匹配
  编译.cu文件的nvcc本身只是编译驱动，处理普通C宿主代码时实际会调用系统里的g++/clang++完成编译。如果两边编译环境不一致，会导致同一个B::doors变量在两个目标文件里的*符号修饰（Name Mangling）*结果完全不同，链接器会把它们当成两个无关符号，自然匹配不上。常见触发场景包括：
  • nvcc版本支持的最高宿主编译器版本，和你手动编译.cxx文件用的g++/clang++版本不兼容（比如CUDA 11.x最高只支持GCC 10，你编译cxx时硬用了GCC 12）
  • 编译.cu和.cxx时传的ABI相关参数不一致，比如C++标准版本不同、-fabi-version值不同、_GLIBCXX_USE_CXX11_ABI宏开关状态不同
  • 编译.cxx时加了-fvisibility=hidden参数，且没有给B::doors显式标记默认可见性，导致这个全局变量的符号被隐藏，没有出现在静态库的导出符号表里

直接用binutils的nm工具查看两个目标文件的符号信息，1分钟就能定位根因：

1. 先看cu文件里引用的doors符号：执行nm FILE2.cu.o | grep doors，输出里标记为U（Undefined，未定义）的那行就是cu文件期望找到的符号名
2. 再看cxx文件里定义的doors符号：执行nm FILE3.cxx.o | grep doors，正常情况下这行的标记应该是D（已初始化的全局数据段符号），也就是实际导出的符号名
3. 对比两个结果对应解决：

• 如果两个符号名完全一致：就是静态库/链接顺序问题，打包静态库时把定义符号的FILE3.cxx.o放在依赖它的FILE2.cu.o前面即可，临时验证也可以在链接时加-Wl,--whole-archive -lapp -Wl,--no-whole-archive强制加载静态库所有目标文件
• 如果两个符号名不一样：就是ABI不匹配问题，统一nvcc和宿主编译器的版本、对齐两边的编译参数即可解决

内容的提问来源于stack exchange，提问作者alvarella