Excel VBA读取表格0.1值出现9.999999996e-2精度异常求助

问题根源 #

这是典型的二进制浮点数精度误差：0.1无法用二进制浮点数精确表示，会被存储为一个接近0.1的近似值。Excel单元格显示时会自动按设置的小数位四舍五入，但VBA读取的是单元格底层存储的原始浮点值，因此出现9.999999996e-2这类近似值。单独读取7.1和7.0时，二者的二进制浮点近似误差刚好抵消，所以显示正常，但它们的差值会暴露底层的精度问题。

解决方案 #

方案1：VBA读取时强制四舍五入到1位小数

既然你的测量值都是0.1的增量，读取数据时直接四舍五入到1位小数即可消除误差：

' 单个单元格读取示例
Dim adjustedVal As Double
adjustedVal = Round(Range("A1").Value, 1)

' 表格列批量读取示例
Dim tbl As ListObject
Set tbl = ThisWorkbook.Worksheets("Sheet1").ListObjects("tbRecordedSurvey")
Dim row As ListRow
For Each row In tbl.ListRows
    Dim datumAdjust As Double
    datumAdjust = Round(row.Range(tbl.ListColumns("Datum Adjust. Elevation").Index).Value, 1)
    ' 后续处理逻辑
Next row

方案2：修改Excel公式提前修正精度

在计算「Datum Adjust. Elevation」时，用ROUND函数强制保留1位小数，从源头消除误差：

=ROUND([@[Corrected Elevation]]-DATUM, 1)

修改后，单元格底层存储的就是精确到1位小数的数值，VBA读取时直接得到0.1或-0.1。

方案3：VBA中使用Decimal类型避免浮点误差

Decimal类型以十进制存储数值，不会出现二进制浮点的精度问题，适合处理测量这类需要精确小数的场景：

Dim adjustedVal As Variant
adjustedVal = CDec(Range("A1").Value)
' 转换后adjustedVal会是精确的0.1或-0.1

内容的提问来源于stack exchange，提问作者FreshlyBrewed