CMake编译可选CUDA库时缺失CMAKE_CUDA_COMPILE_WHOLE_COMPILATION变量问题

这个问题我之前也碰到过，核心原因大多是CMake版本与CUDA版本不兼容，或者主机编译器环境不匹配，给你几个可行的解决思路：

1. 匹配兼容的CMake与CUDA版本 #

你用的CUDA 9.1是比较老的版本，它对CMake的版本有明确限制：官方推荐使用CMake 3.9~3.17之间的版本。如果你的CMake版本过高（比如3.18及以上），新版本CMake引入的一些内部编译变量（比如CMAKE_CUDA_COMPILE_WHOLE_COMPILATION）是老CUDA版本不认识的，这就会触发这个错误。

解决办法：

• 降级CMake到3.17.x版本（比如3.17.6），这个版本对CUDA 9.1的支持是最稳定的。

2. 显式设置缺失的内部变量（临时绕过） #

如果暂时不想降级CMake，可以尝试在enable_language(CUDA)之前显式设置这个缺失的内部变量，强制关闭整编译选项：

include(CheckLanguage)
check_language(CUDA)
if (CMAKE_CUDA_COMPILER)
    # 显式设置缺失的内部变量，绕过错误
    set(CMAKE_CUDA_COMPILE_WHOLE_COMPILATION OFF)
    enable_language(CUDA)
    
    # 可选：设置CUDA标准，匹配你的项目需求
    set(CMAKE_CUDA_STANDARD 11)
    set(CMAKE_CUDA_STANDARD_REQUIRED ON)
else()
    message(WARNING "CUDA not found: GPU features won't be available.")
endif ()

这个方法属于临时 workaround，虽然能解决当前错误，但如果CMake和CUDA版本差异太大，后续可能还会出现其他兼容性问题。

3. 统一主机编译器版本，解决环境冲突 #

从你的环境变量可以看到，系统默认CXX是GCC 7.4，但CUDAHOSTCXX设置的是GCC 6。而CUDA 9.1不支持GCC 7及以上版本，这种编译器版本不匹配也可能导致CMake内部变量初始化失败。

解决办法：
在执行CMake前，统一设置主机编译器为GCC 6：

export CXX=/usr/bin/g++-6
export CUDAHOSTCXX=/usr/bin/g++-6
cmake ..

这样能确保CUDA使用兼容的主机编译器，避免因版本不兼容导致的内部变量缺失问题。

4. 改用旧版CUDA检测逻辑（兼容老版本） #

如果上述方法都不行，可以尝试用旧版的find_package(CUDA)代替check_language，这种方式对老CUDA版本的兼容性更好：

option(BUILD_WITH_CUDA "Build with CUDA support" ON)
if(BUILD_WITH_CUDA)
    find_package(CUDA 9.1)
    if(CUDA_FOUND)
        include_directories(${CUDA_INCLUDE_DIRS})
        # 这里可以添加CUDA相关的编译选项、源文件等
    else()
        message(WARNING "CUDA not found: GPU features won't be available.")
        set(BUILD_WITH_CUDA OFF)
    endif()
endif()

内容的提问来源于stack exchange，提问作者Theophile Champion