SQL中HASHBYTES函数在CASE WHEN/IIF中返回异常输出的问题排查

这个问题的核心在于SQL Server对CASE和IIF语句的返回类型处理规则，以及不同数据类型的优先级差异。让我一步步拆解：

1. 先明确两个分支的返回类型 #

• HASHBYTES('SHA1', @Hash) 返回的是 varbinary(20) 类型（SHA1哈希值的固定长度）。
• 你的变量 @Hash 是 varchar(255) 类型的普通字符串。

2. CASE/IIF的返回类型规则 #

当CASE或IIF的多个分支返回不同数据类型时，SQL Server会根据数据类型优先级自动将所有分支的结果转换为优先级更高的那个类型。在SQL Server中，varbinary 的优先级高于 varchar，所以：

• 对于你的第一个查询：

  SELECT IIF(1=1, HASHBYTES('SHA1',@Hash), @Hash)
  

  虽然条件1=1永远为真，只会执行第一个分支，但SQL Server在编译时就会确定整个IIF表达式的返回类型为varbinary(255)（因为要兼容ELSE分支的varchar类型，自动转换为优先级更高的varbinary）。此时查询工具（比如SSMS）会把这个varbinary值以字符形式显示，而非十六进制格式，所以你看到的是“乱码”。

• 对于你的第二个查询：

  SELECT CASE WHEN 1=1 THEN HASHBYTES('SHA1',@Hash) END AS Hashcolumn
  

  这里没有ELSE分支，SQL Server会默认将返回类型设为THEN分支的varbinary(20)。查询工具通常会对长度较短的varbinary值以十六进制字符串（比如0xA94A8FE5CCB19BA61C4C0873D391E987982FBBD3）显示，所以看起来和第一个查询的结果完全不同。

3. 解决方案：统一返回字符串类型 #

如果你希望无论是否有ELSE分支，都返回可读的哈希字符串，需要显式将HASHBYTES的结果转换为varchar类型。可以使用CONVERT函数的2参数（返回不带0x前缀的十六进制字符串）：

DECLARE @Hash varchar(255) = 'testvalue'
-- 使用CONVERT统一返回字符串
SELECT IIF(1=1, CONVERT(varchar(40), HASHBYTES('SHA1',@Hash), 2), @Hash)
SELECT CASE WHEN 1=1 THEN CONVERT(varchar(40), HASHBYTES('SHA1',@Hash), 2) ELSE @Hash END AS Hashcolumn

这样两个查询都会返回可读的SHA1哈希字符串：A94A8FE5CCB19BA61C4C0873D391E987982FBBD3，不会再出现乱码。

内容的提问来源于stack exchange，提问作者JVGBI