Excel VBA使用Double处理三位小数数值时的计算精度问题

你遇到的是典型的二进制浮点数精度误差问题：Double类型基于二进制存储，无法精确表示所有十进制小数（比如你用到的三位小数），计算后会产生极小的舍入误差，导致数值判断失效。

以下是几种可行的替代方案：

1. 使用Decimal类型 #

Decimal是VBA专为精确十进制计算设计的类型，能完美处理固定小数位的数值运算。注意Decimal不能直接声明为变量类型，需通过Variant配合CDec()转换使用：

Sub UseDecimal()
    Dim iQty As Variant
    Dim nQty As Variant
    
    ' 用CDec转换每个参与计算的数值
    iQty = CDec(4032.258) + CDec(773.994)
    nQty = CDec(4806.252)
    
    Debug.Print iQty - nQty ' 输出0，无误差
    If iQty >= nQty Then
        Debug.Print "判断成立"
    End If
End Sub

2. 使用Currency类型 #

Currency是定点数类型，内部以整数形式存储（数值放大10000倍），精度可达四位小数，完全满足三位小数的计算需求。声明和使用更直接：

Sub UseCurrency()
    Dim iQty As Currency
    Dim nQty As Currency
    
    ' 用@作为Currency类型的后缀，或直接赋值
    iQty = 4032.258@ + 773.994@
    nQty = 4806.252@
    
    Debug.Print iQty - nQty ' 输出0，无误差
    If iQty >= nQty Then
        Debug.Print "判断成立"
    End If
End Sub

3. 保留三位小数取整（不换类型的临时方案） #

如果不想修改变量类型，可以在判断前对计算结果按三位小数取整，忽略极小的浮点误差：

Sub UseRound()
    Dim iQty As Double
    Dim nQty As Double
    
    iQty = 4032.258 + 773.994
    nQty = 4806.252
    
    ' 按三位小数取整后再比较
    If Round(iQty, 3) >= nQty Then
        Debug.Print "判断成立"
    End If
End Sub

类型选择建议 #

• 若需要处理超过四位小数的数值，优先选Decimal；
• 若仅处理四位以内小数（如货币、数量），Currency更高效；
• 临时快速修复用Round取整即可。

内容的提问来源于stack exchange，提问作者Ramses505