Sybase IQ 16 float转decimal/numeric时小数精度异常如何解决

float属于近似数值存储类型，无法精确表示所有十进制小数。你看到的22411.39、61.65等数值是数据库展示时做过舍入的近似值，实际底层存储的二进制浮点值本身和十进制标称值存在微小偏差。Sybase ASE 15.7做float转numeric时默认会先做隐式的小数位对齐舍入，而Sybase IQ 16的转换逻辑是直接读取底层二进制值计算，因此会出现精度偏差。

• 方案1：先四舍五入再转换
  先按需要保留的小数位对字段做四舍五入，抵消浮点存储的微小偏差后再做类型转换，示例代码：

  select 
    TradeNum, 
    StrikePrice as "Original Strike Price in Database",
    convert(numeric(31,5), round(StrikePrice, 5)) as "Converted Strike Price" 
  from ProductTb 
  where TradeNum in (8463676,72372333)
  

  该方案适配绝大多数场景，性能损耗极小。

• 方案2：字符串中转转换
  若部分极端值用方案1仍有偏差，可先将float字段转成十进制字符串，再转numeric类型，完全匹配你看到的原始展示值：

  select 
    TradeNum, 
    StrikePrice as "Original Strike Price in Database",
    convert(numeric(31,5), cast(StrikePrice as varchar(30))) as "Converted Strike Price" 
  from ProductTb 
  where TradeNum in (8463676,72372333)
  

• 方案3：缩放取整法
  对性能要求极高的场景，可通过缩放取整的方式规避浮点运算误差：

  select 
    TradeNum, 
    StrikePrice as "Original Strike Price in Database",
    convert(numeric(31,5), cast(StrikePrice * 100000 + 0.000005 as bigint) / 100000.0) as "Converted Strike Price" 
  from ProductTb 
  where TradeNum in (8463676,72372333)
  

价格、金额等对精度要求高的字段，后续表设计建议直接使用decimal/numeric类型存储，不要使用float/real类型，从根源避免浮点精度问题。

内容的提问来源于stack exchange，提问作者Raul