Oracle无标度定义NUMBER(3)对123.89的十进制存储取值分步解析

最终结果 #

数值123.89存入定义为NUMBER(3)的字段后，最终十进制存储取值为 124

取值判定分步过程 #

• 第一步：确认NUMBER类型省略scale的默认规则
  Oracle的NUMBER类型定义语法为NUMBER(precision, scale)：
  • precision指总有效数字位数，取值范围1到38
  • scale指小数部分的保留位数，可正可负可为0
    当仅指定precision、未显式指定scale时，scale默认值为0，等价于定义NUMBER(precision, 0)，即字段仅存储整数，数值会被舍入到个位，不保留小数位。本例中NUMBER(3)等价于NUMBER(3,0)，要求总有效数字不超过3位，无小数位。
• 第二步：按规则对输入值做舍入处理
  Oracle对NUMBER类型的小数处理默认采用四舍五入逻辑，而非直接截断：判断需要保留的最后一位有效数字（本例中为个位的3）的下一位（即十分位的8），若该值大于等于5则向最后一位有效数字进1，否则直接舍弃后续小数。
  本例中123.89的十分位为8，满足进1规则，个位3加1变为4，小数部分全部舍弃，得到初步结果124。
• 第三步：校验结果是否符合精度约束
  舍入后得到的124总有效数字位数为3，与定义的precision=3完全匹配，未超出字段长度限制，可正常存储。

补充说明 #

如果输入值舍入后有效数字位数超出precision限制，会直接抛出ORA-01438: 值大于为此列指定的允许精度错误，例如向NUMBER(3)字段存入999.5，舍入后得到1000共4位有效数字，就会触发该报错。

内容的提问来源于stack exchange，提问作者ahmed mokhtar