我碰到过不少用户遇到这个问题——明明在NoMachine服务器的GUI偏好里勾选了H.264编码，结果连接时还是自动切换到VP8。这通常是因为服务器端的编码优先级设置、硬件加速支持未启用，或者客户端解码策略没跟上。咱们一步步来排查解决：

一、服务器端（Arch Linux）配置步骤 #

1. 确认硬件编码支持 #

H.264编码依赖硬件加速（VA-API或NVENC），先检查你的系统是否具备这个能力：

• 安装检测工具包：sudo pacman -S libva-utils
• 运行命令检测VA-API支持：vainfo

  输出里如果能看到H.264相关的编码器（比如VAProfileH264Main），说明硬件编码可用。

• 如果你用NVIDIA显卡，可通过nvidia-smi确认是否支持NVENC，或者安装nvidia-vaapi-driver来启用VA-API兼容。

2. 修改NoMachine服务器配置文件 #

GUI的偏好设置有时会被配置文件的默认参数覆盖，咱们直接修改核心配置：

• 编辑服务器配置文件：sudo nano /usr/NX/etc/server.cfg
• 找到并修改以下参数（如果没有就手动添加）：

  # 启用硬件加速编码
  EnableHardwareEncoding 1
  # 指定优先使用H.264编码
  PreferredVideoCodec h264
  # 设置编码策略为优先使用指定编码，而非自动选择
  VideoCodecPolicy preferred
  

• 保存退出后，重启NoMachine服务器：sudo systemctl restart nxserver.service

3. 额外排查：Wayland vs Xorg #

如果你的Arch Linux用的是Wayland桌面环境，NoMachine对H.264的支持可能受限。可以临时切换到Xorg会话，再尝试连接，看编码是否切换为H.264。

二、客户端（Windows 10）配置步骤 #

1. 连接前配置编码偏好 #

• 打开NoMachine客户端，点击要修改的连接，选择「Edit connection」（编辑连接）
• 切换到「Advanced」（高级）标签页，找到「Video codec」（视频编码）选项，选择「H.264」
• 保存配置后再发起连接

2. 连接后启用硬件解码 #

• 成功连接后，点击客户端右上角的「Info」（信息）图标，打开设置菜单
• 找到「Display」（显示）选项，确保「Hardware acceleration」（硬件加速）已勾选，且解码方式设置为「H.264」

三、验证编码是否生效 #

连接成功后，可通过以下方式确认：

• 在客户端，点击右上角的信息图标，查看「Current session details」（当前会话详情），里面会显示「Video codec」为H.264
• 在服务器端，查看日志确认：grep -i h264 /usr/NX/var/log/nxserver.log，如果看到「Using H.264 codec」之类的日志，说明配置生效

如果还是不行，检查服务器日志里是否有H.264初始化失败的错误，比如硬件加速驱动未正确加载，再针对性解决驱动问题。

内容的提问来源于stack exchange，提问作者david