数值转数值类型报错：如何让Mod97-2函数支持更长数值？

这个error converting numeric to data type numeric错误的核心原因是：SQL Server的numeric类型有固定精度上限。你传入的19位数字已经超过了默认numeric(18,0)的精度范围，哪怕你显式指定更高精度的numeric（比如numeric(38,0)），当数字长度超过38位时还是会遇到同样的问题。

更稳妥的方案是改用字符串类型来处理超长数字，因为字符串可以轻松容纳任意长度的数字序列，然后通过逐位计算的方式实现Mod97逻辑，避免直接对超大数值进行运算导致的溢出。

修改后的函数代码 #

ALTER FUNCTION [APP].[FN_DCT_Mod97_2] (@code AS VARCHAR(100)) 
RETURNS NUMERIC 
AS 
BEGIN
    DECLARE @modValue NUMERIC = 0
    DECLARE @i INT = 1
    DECLARE @currentChar CHAR(1)
    
    -- 逐位计算模97的值，避免超大数字溢出
    WHILE @i <= LEN(@code)
    BEGIN
        SET @currentChar = SUBSTRING(@code, @i, 1)
        -- 确保当前字符是数字（可选的校验逻辑）
        IF ISNUMERIC(@currentChar) = 1
        BEGIN
            SET @modValue = (@modValue * 10 + CAST(@currentChar AS NUMERIC)) % 97
        END
        SET @i = @i + 1
    END
    
    DECLARE @cd AS NUMERIC = 98 - @modValue
    -- 特殊情况：如果模值为0，98-0=98，但Mod97校验码通常范围是1-97，可根据需求调整
    RETURN CASE WHEN @modValue = 0 THEN 97 ELSE @cd END
END

使用示例 #

SELECT [APP].[FN_DCT_Mod97_2] ('1234567890123456789')

关键说明 #

• 参数类型切换：把numeric参数改成VARCHAR(100)，你可以根据实际需要调整长度，支持几十甚至上百位的数字。
• 逐位计算逻辑：通过循环遍历字符串的每一位，逐步累加计算模97的值，这种方式不会触发数值溢出，因为每次运算的中间结果都被限制在97以内。
• 可选校验：加入了ISNUMERIC的判断，避免传入非数字字符导致错误，你也可以根据业务需求移除或增强这部分校验。

内容的提问来源于stack exchange，提问作者L.Jamal