SUM函数计算REAL类型字段出现多位小数，求更优解决方案

Quantity列类型为REAL，单独查询该列时数值显示正常，但使用SUM函数计算后结果会出现多余的多位小数。目前用CAST(SUM(Quantity) AS REAL)能修复问题，但该方法会在查询计划中额外增加Compute Scalar步骤，希望找到更优的解决办法。

相关查询语句：

• 单独查询：

SELECT Quantity
FROM foo
WHERE ID = 202224

• 原始SUM查询（存在小数问题）：

SELECT SUM(Quantity)
FROM foo
WHERE ID = 202224

• 当前修复查询（非最优）：

SELECT CAST(SUM(Quantity) AS REAL)
FROM foo
WHERE ID = 202224

1. 问题本质 #

REAL是单精度浮点数，SUM函数执行时会自动采用更高精度的类型（如FLOAT、DECIMAL）完成累加，避免中间计算的精度损耗，但最终输出时会保留这些高精度类型的多余小数位。而单独查询时直接返回REAL类型的原始存储值，因此显示正常。

2. 具体优化方案 #

方案一：用ROUND函数指定小数位

如果业务允许对结果进行合理取舍，直接用ROUND函数控制输出的小数位数，不会额外增加查询计划开销：

SELECT ROUND(SUM(Quantity), 2) -- 2为保留的小数位数，可根据实际需求调整
FROM foo
WHERE ID = 202224

方案二：修改列数据类型（长期最优）

REAL这类浮点数不适合需要精确计算的场景（如数量、金额统计），如果业务场景允许，将Quantity改为DECIMAL/NUMERIC类型（指定合适的精度和小数位），从根源解决精度问题：

-- 操作前建议先备份数据
ALTER TABLE foo ALTER COLUMN Quantity DECIMAL(10,2); -- 精度和小数位根据业务实际调整

修改后直接执行SUM查询即可得到精确无多余小数的结果：

SELECT SUM(Quantity)
FROM foo
WHERE ID = 202224

方案三：CAST到FLOAT（部分数据库适用）

在部分数据库中，FLOAT和REAL是同一类型的不同精度别名，CAST到FLOAT可能不会引入额外的Compute Scalar步骤，同时修复显示问题：

SELECT CAST(SUM(Quantity) AS FLOAT)
FROM foo
WHERE ID = 202224

该方案效果依赖数据库查询优化器实现，建议测试后使用。

内容的提问来源于stack exchange，提问作者AngryHacker