Ruby单元测试：科学计数法数值转20用to_i出错，求解决方案

问题原因 #

to_i 方法的核心特性是直接截断小数部分，仅保留整数位。你输入的科学计数法数值 0.20058343942960624257135598502550788022255447223e2 实际等价于 20.058343942960624...，使用 to_i 转换时会直接丢弃小数部分，最终得到 20，这就是与预期不符的根本原因。

解决方案 #

根据不同需求，可选择以下处理方式：

1. 保留完整浮点精度 #

若需保留原数值的小数部分，直接使用 to_f 方法转换：

value = "0.20058343942960624257135598502550788022255447223e2".to_f
# 输出结果：20.058343942960624

2. 四舍五入得到整数 #

若需要将小数部分四舍五入为整数，使用 round 方法：

value = "0.20058343942960624257135598502550788022255447223e2".to_f.round
# 输出结果：20（因小数部分0.058...小于0.5，若小数≥0.5会得到21）

3. 高精度数值处理（无浮点误差） #

如果场景要求极高精度（如金融计算），建议使用 BigDecimal 类解析，它能完美保留科学计数法的完整精度：

require 'bigdecimal'

value = BigDecimal("0.20058343942960624257135598502550788022255447223e2")
# 可按需转换：
# 截断转整数：value.to_i → 20
# 四舍五入转整数：value.round → 20
# 保留原精度输出：value.to_s → "0.20058343942960624257135598502550788022255447223e2"

测试差异说明 #

你的测试差异信息：

--- expected
+++ actual
@@ -1 +1 @@
-0.20058343942960624257135598502550788022255447223e2
+20

若预期结果是保留原科学计数法表示的完整数值，需放弃 to_i 截断转换，改用 BigDecimal 或直接保留字符串解析后的高精度类型。

内容的提问来源于stack exchange，提问作者zero20210602