OS开发中VESA模式检测失败致QEMU重启问题求助

核心问题总结 #

你遇到的系统重启、错误消息不显示问题，根源是在Multiboot保护模式内核中调用实模式BIOS中断，同时VESA检测逻辑、panic函数也存在错误。

1. VESA支持检测的错误 #

你当前的CheckVesaSupport()函数逻辑完全错误：

• VBE规范明确规定，调用int 0x10且ax=0x4F00后，只有当AX寄存器返回0x004F时，才表示系统支持VBE。BX寄存器返回的是VBE版本号（如0x0200代表VBE2.0），但这个值仅在AX返回0x004F时有效。
• 更关键的是：Multiboot启动后，GRUB已经将CPU切换到32位保护模式，此时直接调用实模式BIOS中断int 0x10是非法操作，会触发CPU异常，直接导致系统崩溃重启——这是你看到重启现象的根本原因。

2. 系统重启的原因 #

• 保护模式调用实模式中断：实模式BIOS中断依赖16位地址空间和实模式特权级，保护模式下调用会触发双重故障异常，QEMU会模拟硬件行为导致系统重启。
• panic函数逻辑错误：你的kpainic()中循环变量j每次加1，但文本模式显存每个字符占2字节（字符+属性），导致显存字节被重复覆盖，且没有正确遍历整个80×25的文本区域。此外，如果显卡处于图形模式，直接写入0xb8000也不会生效，必须先切换回文本模式。

3. QEMU的处理与正确实现方式 #

• QEMU对VBE的支持是正常的，但仅在实模式下有效。保护模式下调用实模式中断触发的重启是标准CPU异常行为，不是QEMU的特殊处理。
• Multiboot环境下处理VGA模式的正确方法：
  • 优先使用GRUB的Multiboot视频模式请求，让GRUB提前设置好所需模式，内核启动后直接使用即可。
  • 若要自行实现，需编写保护模式下的VGA/VBE驱动，而非依赖实模式BIOS中断。

具体修改建议 #

修复panic函数的循环逻辑 #

void kpainic(void) {
    unsigned char *vidmemTxtMode = (unsigned char*)0xb8000;
    const unsigned char *err = "Unsupported videomode";
    unsigned int i = 0, j = 0;

    // 清屏：每个字符占2字节，j每次步进2
    while(j < 80 * 25 * 2) {
        vidmemTxtMode[j] = ' ';
        vidmemTxtMode[j + 1] = 0x0F; // 白字黑底属性
        j += 2;
    }

    // 写入错误消息
    j = 0;
    while(err[i] != '\0') {
        vidmemTxtMode[j] = err[i];
        vidmemTxtMode[j + 1] = 0x0F;
        j += 2;
        i++;
    }

    while(1); // 死循环挂起系统
}

使用Multiboot视频模式请求 #

修改Multiboot头的初始化代码，添加视频模式请求标志，让GRUB提前设置视频模式：

void init_multiboot_header(void) {
    MULTIBOOT_HEADER.magic = MULTIBOOT_MAGIC;
    // 启用视频模式请求标志
    MULTIBOOT_HEADER.flags = MULTIBOOT_HEADER_FLAGS | MULTIBOOT_VIDEO_MODE_BIT;
    MULTIBOOT_HEADER.checksum = MULTIBOOT_HEADER_CHECKSUM;
    // 指定所需的VBE模式（比如0x118对应1024×768×16位色）
    MULTIBOOT_HEADER.mode_type = MULTIBOOT_VBE_MODE;
    MULTIBOOT_HEADER.width = 1024;
    MULTIBOOT_HEADER.height = 768;
    MULTIBOOT_HEADER.depth = 16;
}

从Multiboot信息中获取视频状态 #

修改kmain函数，接收GRUB传递的Multiboot信息结构，从中判断视频模式是否可用：

void kmain(multiboot_info_t *mb_info) {
    // 检查是否获取到VBE信息
    if ((mb_info->flags & MULTIBOOT_INFO_VBE_INFO) && (mb_info->vbe_mode != 0)) {
        // VBE模式已成功设置，可直接使用对应显存
    } else {
        // 无有效视频模式，触发panic
        kpainic();
    }

    while(1);
}

内容的提问来源于stack exchange，提问作者HarryDoesTech