Azure Data Studio计算结果自动取整问题求助:decimal变量结果不符预期
整数除法导致的取整问题排查与解决
问题根源在于SQL Server的整数除法规则:当你执行10/3时,两个操作数都是整数类型,数据库会优先按整数运算逻辑处理,直接舍去小数部分得到整数结果3,之后才将这个整数转换为你声明的decimal(10,3)类型,因此最终输出3.000,而非预期的3.333。
解决方法有几种:
- 将其中一个操作数改为小数形式,触发decimal除法运算:
declare @Cute decimal(10,3) = 10.0/3 select @Cute - 显式转换其中一个操作数为decimal类型:
declare @Cute decimal(10,3) = CAST(10 AS decimal(10,3))/3 select @Cute - 也可以把除数改为小数:
declare @Cute decimal(10,3) = 10 / 3.0 select @Cute
内容的提问来源于stack exchange,提问作者Bluebird
相关产品推荐
相关产品推荐

