类Nanite风格Vulkan LOD算法选择异常致模型破面问题排查

我基于Vulkan开发类Nanite风格的LOD算法，目前遇到LOD选择异常：部分集群未被选中，导致模型出现破面效果。

技术栈说明：

• 用meshoptimizer生成meshlet并简化网格
• 通过METIS库对meshlet分组，分组误差为组内所有meshlet的误差之和
• 确保子组误差小于父组，误差函数单调递增（当前LOD分组误差 + 上一级LOD最大分组误差）

LOD选择核心代码如下：

std::vector<uint32_t> LODSelectionDispatcher::LodSelector(std::vector<MeshletGroup>& totalGroups,
                                                          const glm::mat4& modelViewMatrix, int width, float hFov,
                                                          const LOD& lastLOD, const glm::vec3& instancePos,
                                                          float& avgLOD, std::vector<MINERVA_VERTEX>& vertexBuffer) {
    float distanceMul = 2.0f;
    errorThreshold    = 1.0f;
    std::unordered_set<idx_t> groupsSelected;
    std::vector<uint32_t> newIndexBuffer;
    std::vector<MeshletGroup> tempTotal = totalGroups;
    for (auto& group : tempTotal) {
        MeshletGroup parentGroup = group;
        float parentGroupError   = 0.0f;

        float currentGroupError = ComputeScreenSpaceError(group.groupBound, modelViewMatrix, group.groupError, width,
                                                          hFov, instancePos, distanceMul);

        if (group.parentsGroup.size() <= 0) {
            parentGroupError = errorThreshold + 0.1f;
            if (currentGroupError <= errorThreshold && parentGroupError > errorThreshold && !group.isSelected) {
                group.isSelected = true;
                groupsSelected.insert(group.groupID);
            }
            continue;
        }

        for (int i = 0; i < group.parentsGroup.size(); i++) {
            parentGroup = tempTotal[group.parentsGroup[i]];
            assert(group.groupBound.radius > 0 && parentGroup.groupBound.radius > 0);
            assert(group.groupError < parentGroup.groupError);
            parentGroupError = ComputeScreenSpaceError(parentGroup.groupBound, modelViewMatrix, parentGroup.groupError,
                                                       width, hFov, instancePos, distanceMul);
            if (currentGroupError <= errorThreshold && parentGroupError > errorThreshold && !group.isSelected) {
                for (int i = 0; i < group.parentsGroup.size(); i++) {
                    MeshletGroup* parent = &tempTotal[group.parentsGroup[i]];
                    parent->isSelected   = true;
                }
                groupsSelected.insert(group.groupID);
            }
        }
    }
    // CPU side
    for (auto group : groupsSelected) {
        MeshletGroup* currentGroup = &totalGroups[group];
        avgLOD += currentGroup->lod;
        newIndexBuffer.insert(newIndexBuffer.end(), currentGroup->localGroupIndexBuffer.begin(),
                              currentGroup->localGroupIndexBuffer.end());

        vertexBuffer.insert(vertexBuffer.end(), currentGroup->localGroupVertexBuffer.begin(),
                            currentGroup->localGroupVertexBuffer.end());
    }
    avgLOD /= groupsSelected.size();
    if (newIndexBuffer.size() <= 0) {
        avgLOD         = -1.0f;
        newIndexBuffer = lastLOD.lodIndexBuffer;
    }
    currentAvgLOD = avgLOD;

    return newIndexBuffer;
}

float LODSelectionDispatcher::ComputeScreenSpaceError(PhoenixBound bound, const glm::mat4& modelViewMatrix,
                                                      float groupError, int width, float hFov,
                                                      const glm::vec3& instancePos, float distanceMul) {
    bound.center += instancePos;
    // Bound center in View space
    glm::vec4 distanceFromCamera = modelViewMatrix * glm::vec4{bound.center, 1.0f};
    float d                      = glm::length(distanceFromCamera);
    float screenSpaceError       = (groupError * static_cast<float>(width)) / (distanceMul * d * tan(hFov / 2.0f));
    return screenSpaceError;
}

totalGroups包含所有LOD的分组，遍历所有分组计算屏幕空间误差，请问问题出在哪里？

1. 遍历顺序错误导致父组选中逻辑失效 #

当前遍历所有分组的顺序是无序的：

• 若先处理子组再处理父组，子组满足条件时会标记父组为isSelected，但后续父组自身逻辑判断时，若父组误差超过阈值不会被加入选中集合，导致父组状态标记与实际选中状态矛盾。
• 若先处理父组且未选中，后续子组标记父组选中后，父组也不会被加入选中集合，导致对应网格缺失。

修复方案：按LOD层级从高到低（父组到子组）遍历分组，确保父组的选中状态先被确定，子组判断基于正确的父组状态。

2. 父组选中逻辑完全错误 #

当前代码中，子组满足条件时仅标记父组为isSelected，但未将父组加入groupsSelected集合，导致父组网格不会被渲染。且逻辑逻辑完全颠倒：当子组适合被选中时，应该取消父组的选中状态，而非标记父组选中。

修复方案：

• 当子组满足选中条件时，遍历父组并将其从groupsSelected中移除（若已存在），同时取消父组的isSelected标记。
• 确保选中集合只保留当前最适合的LOD层级组，避免父组和子组同时被选中或均不被选中。

3. 屏幕空间误差的距离计算错误 #

ComputeScreenSpaceError中用glm::length(distanceFromCamera)计算相机距离，这是错误的：modelViewMatrix变换后的坐标是视图空间坐标，相机在原点，物体到相机的深度距离应为z分量的绝对值，而非向量模长。模长计算会在物体不在相机正前方时引入误差，导致距离偏大、屏幕空间误差偏小，错误选择更低层级LOD甚至不选中。

修复方案：

// 替换原距离计算逻辑
float d = std::abs(distanceFromCamera.z);

4. 根组选中逻辑无兜底 #

根组（无父组）的判断条件是currentGroupError <= errorThreshold && parentGroupError > errorThreshold，但parentGroupError硬编码为errorThreshold + 0.1f，导致根组误差超过阈值时不会被选中，且无兜底逻辑，直接造成这部分网格缺失。

修复方案：根组作为最低层级兜底必须被选中，或确保误差超阈值时有更低层级LOD承接，修改根组判断逻辑：

if (group.parentsGroup.size() <= 0) {
    // 根组始终作为兜底，确保不会出现无网格渲染的情况
    if (currentGroupError <= errorThreshold || groupsSelected.empty()) {
        group.isSelected = true;
        groupsSelected.insert(group.groupID);
    }
    continue;
}

5. 临时拷贝导致状态不同步 #

代码中创建tempTotal作为totalGroups的拷贝，所有选中状态修改都在tempTotal上进行，但最终渲染使用的是totalGroups原始数据，导致isSelected状态的修改无法同步到实际分组，后续帧LOD选择会基于错误状态。

修复方案：直接操作totalGroups，无需创建临时拷贝；若必须用临时拷贝，处理完成后需将tempTotal的状态同步回totalGroups。

内容的提问来源于stack exchange，提问作者Giuseppe