ASP中Fix/Int函数行为不符合预期问题求助

这是典型的二进制浮点数精度误差导致的问题：

• 148.325无法被二进制浮点数精确表示，实际存储的值略小于148.325，因此148.325 * 100的结果并非精确的14832.5，而是接近14832.49999999999...
• 加上0.5后，结果是14832.99999999999...，Fix()和Int()函数会直接截断小数部分，所以返回14832；而14832.5 + 0.5是精确的14833，自然返回正确结果。

解决方法 #

可以通过以下几种方式处理：

1. 使用Round()函数替代直接计算后调用Fix/Int #

先对乘法结果做四舍五入到整数，再处理：

test = Round(148.325 * 100) + 0.5
result = Fix(test)

或者直接用Round实现你的四舍五入需求：

' 实现保留两位小数的四舍五入（对应你的场景）
result = Round(148.325, 2) * 100

2. 先将浮点数转换为精确的十进制类型 #

利用CDec()函数转换为十进制类型，避免二进制精度误差：

test = CDec(148.325) * 100 + 0.5
result = Fix(test)

CDec会以十进制方式存储数值，能精确表示148.325这样的小数。

3. 自定义精度修正函数 #

如果需要更灵活的处理，可以先对数值做微小偏移再处理，比如：

test = (148.325 * 100 + 1e-8) + 0.5
result = Fix(test)

1e-8的偏移量足够修正二进制浮点数的微小误差，又不会影响正常数值的判断。

内容的提问来源于stack exchange，提问作者Vaka