CMake传递给Ninja生成器的多余/SUBSYSTEM:console标记如何排查

核心排查项 #

• 未覆盖的全局链接器初始化变量：你当前的overrides.cmake仅配置了DEBUG、RelWithDebInfo类型的链接参数初始化变量，未清空CMAKE_EXE_LINKER_FLAGS_INIT、CMAKE_EXE_LINKER_FLAGS_RELEASE_INIT，MSVC平台的默认规则会在这两个变量中预置/subsystem:console参数。
• 目标WIN32_EXECUTABLE属性的默认逻辑：CMake对未加WIN32关键字生成的普通可执行目标，默认会将WIN32_EXECUTABLE属性设为OFF，此时MSVC平台规则会自动插入/subsystem:console；若属性为ON则插入/subsystem:windows，该逻辑独立于全局链接参数配置，属于平台硬编码规则。
• 链接命令模板变量：检查CMAKE_C_LINK_EXECUTABLE、CMAKE_CXX_LINK_EXECUTABLE两个变量，这两个变量定义了最终生成链接命令的模板，部分CMake版本的MSVC规则会在模板中硬编码subsystem参数。
• 隐式工具链配置：检查环境中是否有默认生效的CMake工具链文件（如Visual Studio自带的工具链配置），可能在你的override配置加载完成后再次修改链接参数。
• 语法错误：你提供的overrides.cmake最后一行缺少右括号，会导致该行配置不生效，可能连带影响后续的平台规则加载逻辑。

修复方案 #

1. 补全overrides.cmake的配置，清空多余的默认参数，覆盖链接命令模板：

set(CMAKE_CXX_FLAGS_DEBUG_INIT "")
set(CMAKE_CXX_FLAGS_INIT "")
set(CMAKE_CXX_FLAGS_RELEASE_INIT "")
set(CMAKE_CXX_STANDARD_LIBRARIES_INIT "")

set(CMAKE_C_FLAGS_DEBUG_INIT "")
set(CMAKE_C_FLAGS_INIT "")
set(CMAKE_C_FLAGS_RELEASE_INIT "")
set(CMAKE_C_STANDARD_LIBRARIES_INIT "")

# 新增：清空Release类型的EXE链接参数初始化变量
set(CMAKE_EXE_LINKER_FLAGS_INIT "")
set(CMAKE_EXE_LINKER_FLAGS_RELEASE_INIT "")

set(CMAKE_EXE_LINKER_FLAGS_DEBUG_INIT "/debug")
set(CMAKE_EXE_LINKER_FLAGS_RELWITHDEBINFO_INIT "/debug")
set(CMAKE_SHARED_LINKER_FLAGS_DEBUG_INIT "/debug")
set(CMAKE_SHARED_LINKER_FLAGS_RELWITHDEBINFO_INIT "/debug")
set(CMAKE_MODULE_LINKER_FLAGS_DEBUG_INIT "/debug")
set(CMAKE_MODULE_LINKER_FLAGS_RELWITHDEBINFO_INIT "/debug")

# 新增：覆盖链接命令模板，移除内置的subsystem硬编码逻辑
set(CMAKE_C_LINK_EXECUTABLE "<CMAKE_LINKER> <OBJECTS> /OUT:<TARGET> <LINK_FLAGS> <LINK_LIBRARIES>")
set(CMAKE_CXX_LINK_EXECUTABLE "${CMAKE_C_LINK_EXECUTABLE}")

2. （可选）使用CMake原生属性配置子系统，避免手动加链接参数冲突，CMake 3.13及以上版本支持：

set_target_properties(MyProject PROPERTIES
    SUFFIX ".efi"
    SUBSYSTEM_NAME "EFI_APPLICATION" # CMake会自动生成对应的/SUBSYSTEM参数
)

修改后删除CMakeCache.txt重新生成即可。

内容的提问来源于stack exchange，提问作者valerij zaporogeci