如何用CMake实现NASM与C混合编译、C预处理汇编及自定义链接？

首先明确：需要使用add_custom_command()单独处理C预处理器执行汇编文件预处理的步骤，这是最稳定的实现方案，不需要修改NASM全局扩展名配置，也能避开CMake自带NASM链接规则的缺陷。

完整CMakeLists.txt示例 #

cmake_minimum_required(VERSION 3.16)
# 同时启用C语言和NASM汇编支持
project(my_os_kernel C ASM_NASM)

# 配置32位C代码编译参数，可按需增减
set(CMAKE_C_FLAGS "${CMAKE_C_FLAGS} -ffreestanding -O2 -Wall -Wextra -m32")
# 配置NASM编译输出32位ELF目标文件
set(CMAKE_ASM_NASM_FLAGS "${CMAKE_ASM_NASM_FLAGS} -f elf32")

# 自定义命令：用GCC预处理器处理boot.S，生成纯NASM语法的boot.s
add_custom_command(
  OUTPUT boot.s
  COMMAND gcc -E -P ${CMAKE_CURRENT_SOURCE_DIR}/boot.S -D YOUR_CUSTOM_MACRO=1 -o boot.s
  # 依赖boot.S，文件修改时自动重新执行预处理
  DEPENDS boot.S
  COMMENT "Preprocessing assembly file boot.S"
)

# 定义最终生成目标
add_executable(out.bin
  # 加入预处理生成的NASM源文件
  boot.s
  # 加入C内核源文件
  kernel.c
)

# 配置目标属性
set_target_properties(out.bin PROPERTIES
  # 强制使用C语言链接器（GCC）执行链接，避开NASM链接器缺陷
  LINKER_LANGUAGE C
  # 配置链接参数，指定链接脚本、nostdlib等配置
  LINK_FLAGS "-T ${CMAKE_CURRENT_SOURCE_DIR}/link.ld -nostdlib -lgcc -m32"
)

关键逻辑说明 #

• 预处理步骤：add_custom_command会自动跟踪boot.S的修改，每次改动都会重新执行预处理器生成boot.s，你可以在COMMAND行自行添加需要的-D宏定义参数。
• NASM编译：生成的boot.s会被CMake自动识别为NASM汇编文件，使用预设的CMAKE_ASM_NASM_FLAGS参数编译为目标文件，不需要手动调用set_source_files_properties设置单个文件属性。
• 链接流程：指定LINKER_LANGUAGE C后，CMake会完全使用GCC作为链接驱动执行链接操作，和你预期的手动执行的链接命令完全一致。

问题解答 #

1. 为什么修改CMAKE_ASM_NASM_SOURCE_FILE_EXTENSIONS无效？
   .S后缀默认属于GNU汇编器（GAS）的带预处理汇编文件，和NASM语法不兼容，即使添加到NASM扩展名列表，CMake也不会自动执行GCC预处理器步骤，反而会直接把.S文件传给NASM编译导致语法错误，用自定义命令生成标准.s后缀NASM文件是最稳定的方案。
2. 怎么保证链接用的是C语言链接器？
   显式设置目标的LINKER_LANGUAGE属性为C后，CMake会完全跳过NASM的链接逻辑，100%使用C语言的链接驱动（也就是GCC）执行链接，完全避开CMAKE_ASM_NASM_LINK_EXECUTABLE的已知缺陷，你可以按照GCC的规则配置所有链接参数。

内容的提问来源于stack exchange，提问作者DuckHunterZx