虚拟机操作系统如何执行特权Opcode而不被宿主OS/CPU终止？

你的理解完全正确：宿主操作系统（Host OS）启动后会将CPU切换到用户态，普通用户程序执行特权指令会触发一般保护异常（#GP），Host OS会接管并终止违规程序，因此用户程序必须通过syscall向OS请求特权操作。而虚拟机中的客户操作系统（Guest OS）本身需要执行特权指令，之所以不会被Host OS终止，核心在于虚拟机监控器（Hypervisor，也就是VMM）通过以下几种技术实现了特权指令的虚拟化：

1. 二进制翻译（Binary Translation） #

这是早期无硬件虚拟化支持时的主流方案（比如VMware早期版本）：

• Hypervisor会预先扫描Guest OS的静态代码，将其中的特权指令替换为自己的模拟逻辑代码。
• 对于Guest运行时动态生成的代码（比如JIT编译出来的指令），Hypervisor会在代码执行前拦截，实时完成翻译替换。
• 当Guest执行到这些替换后的代码时，会直接触发Hypervisor的处理流程，由Hypervisor模拟出原特权指令的预期效果（比如修改虚拟寄存器、模拟硬件状态），而非直接执行原生特权指令。
• 缺点是性能开销较高，因为所有特权指令都需要经过翻译和模拟环节。

2. 硬件辅助虚拟化（Hardware-Assisted Virtualization） #

现在的主流方案，Intel（VT-x）和AMD（AMD-V）的CPU都内置了虚拟化扩展：

• CPU新增了根模式和非根模式两种运行层级：Hypervisor运行在最高权限的根模式，Guest OS运行在非根模式（这个模式下Guest以为自己是特权态，但实际是受限的）。
• 当Guest在非根模式下执行特权指令时，不会触发Host OS的异常，而是触发VM Exit事件，直接将控制权交还给Hypervisor。
• Hypervisor处理VM Exit时，会模拟这条特权指令的行为（比如更新虚拟CPU的状态、处理虚拟硬件的操作），完成后通过VM Entry将控制权交还给Guest OS，Guest会以为自己的特权指令已经正常执行。
• 这种方式性能损耗极低，因为绝大多数非特权指令可以直接由CPU原生执行，只有特权指令才会触发VM Exit，Hypervisor只需要处理这些关键操作。

3. 半虚拟化（Paravirtualization） #

一种针对性优化的方案，需要Guest OS配合修改：

• Guest OS明确知道自己运行在虚拟化环境中，会主动将原本的特权指令替换为Hypervisor提供的hypercall（类似系统调用，但调用对象是Hypervisor）。
• 比如Guest原本要执行IO类特权指令in/out，会改成调用Hypervisor的hypercall接口，由Hypervisor完成虚拟IO的操作。
• 优势是性能接近原生，不需要额外的翻译或VM Exit操作；缺点是需要修改Guest OS的内核代码，因此早期闭源系统（如Windows）无法适配，现在更多作为硬件辅助虚拟化的补充优化手段。

内容的提问来源于stack exchange，提问作者Mark Thomas