多级TLB架构下有效内存访问时间（EMAT）计算正确性确认及优化咨询

问题详情 #

内存与TLB参数 #

• 内存访问时间（Δt_mem）：100 ns
• TLB缺失惩罚：TLB缺失时，需额外进行4次内存访问
• TLB访问时间：
  • Δt_TLB, L1-D = 1 ns
  • Δt_TLB, L2 = 5 ns
• TLB命中率：
  • ρ_TLB, L1-D = 30%
  • ρ_TLB, L2 = 98%

行为规则 #

• 若L1-D TLB命中，内存访问时间仅包含Δt_TLB, L1-D
• 若L1-D TLB缺失但L2 TLB命中，需额外加上Δt_TLB, L2
• 若两级TLB均缺失，需进行4次额外内存访问

我的尝试 #

将问题拆分为三种情况：

1. 情况1：L1-D TLB命中（30%）

   Time = Δt_TLB, L1-D = 1 ns
   

2. 情况2：L1-D缺失、L2 TLB命中（70% × 98%）

   Time = Δt_TLB, L1-D + Δt_TLB, L2 = 1 ns + 5 ns = 6 ns
   

3. 情况3：L1-D与L2 TLB均缺失（70% × 2%）

   Time = Δt_TLB, L1-D + Δt_TLB, L2 + 4 × Δt_mem
   Time = 1 ns + 5 ns + 4 × 100 ns = 406 ns
   

认为整体EMAT是各情况基于概率的加权和，但不确定组合方式是否正确。

我的疑问 #

• 我对概率的处理和各情况时间的累加是否正确？
• 是否有更优的计算方法？

解答 #

1. 概率处理与时间累加的正确性验证 #

你的分析逻辑完全正确：

• 概率计算：三种场景的概率覆盖了所有可能情况，且求和为100%：
  • L1-D命中概率：30%
  • L1-D缺失后L2命中概率：(1-30%)×98% = 68.6%
  • 两级均缺失概率：(1-30%)×(1-98%) = 1.4%
    概率划分符合多级TLB的层级访问顺序，没有问题。
• 时间累加：
  • L1-D命中时仅需访问L1-D TLB，时间计算正确；
  • L1-D缺失后需先完成L1-D的访问，再访问L2 TLB，时间累加逻辑符合实际访问流程；
  • 两级均缺失时，需走完两级TLB的访问流程，再执行缺失惩罚的4次内存访问，时间累加逻辑正确。

2. 更优的计算方法（分层递推法） #

对于多级TLB场景，分层递推法比枚举场景更简洁，核心思路是逐层计算缺失惩罚：
EMAT的通用公式为：EMAT = 上层访问时间 + 上层缺失率 × 下层平均惩罚时间

第一步：计算L2 TLB的平均惩罚（L1-D缺失后的额外开销）

L2 TLB的平均惩罚 = Δt_TLB, L2 + (1 - ρ_TLB, L2) × 4×Δt_mem
代入数值：5 + (1-0.98)×4×100 = 5 + 8 = 13 ns

第二步：计算整体EMAT

EMAT = Δt_TLB, L1-D + (1 - ρ_TLB, L1-D) × L2平均惩罚
代入数值：1 + (1-0.3)×13 = 1 + 9.1 = 10.1 ns

结果验证

用你之前的枚举法计算结果一致：
0.3×1 + 0.686×6 + 0.014×406 = 0.3 + 4.116 + 5.684 = 10.1 ns
分层递推法在TLB层级更多时，无需枚举所有场景，效率更高。

内容的提问来源于stack exchange，提问作者Bishop_1