排查Float32转FP8转换结果不一致问题

问题根源 #

你的代码在将归一化尾数（mantissa）转换为FP8的尾数M时，使用int()直接截断小数部分，而FP8编码要求对尾数进行四舍五入，而非截断。这是导致所有需要进位的转换结果偏差的核心原因。

举个例子：以np.pi（≈3.14159）的E4M3转换为例

• 计算得到的mantissa≈0.5708，乘以2^3=8后≈4.566
• int()会直接截断为4，而正确的四舍五入结果是5
• 最终转换回去的值从预期的3.25变成了3，与预期不符

修复方案 #

将尾数转换逻辑从截断改为四舍五入，同时补充尾数溢出时的进位处理（当尾数四舍五入后满位，需要将指数加1并重置尾数为0）。

修改后的完整代码：

def float32_to_ofp8_and_back(value: float, encoding: str) -> float:
    import numpy as np
    
    # 确定符号位
    S = 0 if value >= 0 else 1
    value = abs(value)
    
    # 计算归一化的指数和尾数
    if value == 0:
        exponent = 0
        mantissa = 0
    else:
        exponent = int(np.floor(np.log2(value)))
        mantissa = value / (2 ** exponent) - 1

    # 选择编码并设置偏移量、尾数位数
    if encoding == "E4M3":
        bias = 7
        exponent_bits = 4
        mantissa_bits = 3
        max_exponent = (1 << exponent_bits) - 1  # E4M3最大指数为15
    elif encoding == "E5M2":
        bias = 15
        exponent_bits = 5
        mantissa_bits = 2
        max_exponent = (1 << exponent_bits) - 1  # E5M2最大指数为31
    else:
        raise ValueError("Unsupported encoding")
    
    # 带四舍五入的尾数转换
    mantissa_scaled = mantissa * (2 ** mantissa_bits)
    M = round(mantissa_scaled)
    
    # 处理尾数溢出：四舍五入后满位则进位到指数
    if M == (1 << mantissa_bits):
        exponent += 1
        M = 0
    
    E = exponent + bias
    
    # 指数溢出钳位（简单处理，如需支持无穷大/NaN可扩展）
    if E > max_exponent:
        E = max_exponent
        M = (1 << mantissa_bits) - 1
    
    # 转换回float
    if E == 0 and M > 0:  # 非规格化数
        converted_value = (-1)**S * 2**(1-bias) * (2**(-mantissa_bits) * M)
    else:  # 规格化数
        converted_value = (-1)**S * 2**(E-bias) * (1 + 2**(-mantissa_bits) * M)
    
    return np.float32(converted_value)

验证修复结果 #

运行你的测试用例，现在所有断言都会通过：

# 原本错误的用例现在全部通过
assert float32_to_ofp8_and_back(value = np.pi, encoding = "E4M3") == 3.25
assert float32_to_ofp8_and_back(value = np.sqrt(7), encoding =  "E4M3") == 2.75
assert float32_to_ofp8_and_back(value = np.sqrt(6), encoding = "E4M3") == 2.50
assert float32_to_ofp8_and_back(value = np.sqrt(6), encoding = "E5M2") == 2.50

# 原本正确的用例依然正常
assert float32_to_ofp8_and_back(value = np.pi, encoding = "E5M2") == 3.0 
assert float32_to_ofp8_and_back(value = np.sqrt(7), encoding =  "E5M2") == 2.50 

额外说明 #

• 四舍五入是FP8编码的标准行为，确保转换后数值尽可能接近原始值
• 新增的溢出处理逻辑避免了尾数满位时的转换错误
• 指数溢出的钳位是简化处理，若需严格支持FP8的特殊值（无穷大、NaN），可进一步扩展逻辑

内容的提问来源于stack exchange，提问作者Daniel David