使用CDbl函数计算文本框数值相减时的精度问题求助

嘿，这个问题我太熟悉了——你遇到的是二进制浮点数的精度局限性！这不是代码写错了，而是Double（也就是CDbl/Convert.ToDouble/Val最终返回的类型）的先天特性导致的。

为什么会出现精度偏差？ #

像0.07、0.98这类十进制小数，在二进制浮点数体系里是无限循环的近似值。当你把它们转成Double存储时，系统会自动做舍入处理，这个微小的误差在计算时会被放大，最终导致结果和预期不符。比如：

• 173.07转成Double后，实际存储的是一个非常接近但略小于173.07的值
• 减去173之后，这个微小的误差就变成了显示出来的0.06而非0.07

替代方案：用Decimal类型处理精确十进制计算 #

Decimal是专门为精确十进制运算设计的类型，它不会有二进制浮点数的精度问题，完美适合你的场景。你可以把代码改成这样：

基础版本 #

label1.Text = (Decimal.Parse(textbox1.Text) - Decimal.Parse(textbox2.Text)).ToString("F2")

或者用Convert.ToDecimal，效果一致：

label1.Text = (Convert.ToDecimal(textbox1.Text) - Convert.ToDecimal(textbox2.Text)).ToString("F2")

这里的"F2"是指定输出保留两位小数，和你示例里的结果格式匹配。

更健壮的版本（处理输入错误） #

如果担心用户输入非数字内容导致崩溃，可以用Decimal.TryParse做验证：

Dim num1 As Decimal
Dim num2 As Decimal
If Decimal.TryParse(textbox1.Text, num1) AndAlso Decimal.TryParse(textbox2.Text, num2) Then
    label1.Text = (num1 - num2).ToString("F2")
Else
    label1.Text = "输入无效"
End If

为什么之前的方法都不行？ #

• CDbl、Convert.ToDouble：最终都是返回Double类型，存在二进制浮点数的精度缺陷
• Val：本质上也是返回Double，所以同样会有误差问题

用Decimal替换后，你就能得到完全符合预期的精确结果了！

内容的提问来源于stack exchange，提问作者Umesh