SQL Server无符号整数缺失致位运算问题及棋类程序优化问询

针对你用T-SQL开发国际象棋程序时，将64个bit列替换为bigint以优化性能，但受限于bigint有符号位导致位运算不直观的问题，以下是实用解决方案：

一、核心思路：适配有符号bigint的位运算逻辑 #

SQL Server的bigint是64位有符号整数，最高位（第63位）为符号位，直接运算时需针对性处理，但**位与(&)、位或(|)、位异或(^)、位取反(~)**这些基础按位操作不受符号位影响，可直接使用。问题主要出在移位、单bit判断、位计数等场景，需通过函数或运算技巧规避符号位干扰。

1. 单bit位的判断与操作 #

判断某一位是否被设置

CREATE FUNCTION dbo.IsBitSet(@board bigint, @position tinyint)
RETURNS bit
AS
BEGIN
    -- 第63位是符号位，值为1时board为负数
    IF @position = 63
        RETURN CASE WHEN @board < 0 THEN 1 ELSE 0 END
    
    DECLARE @mask bigint = CAST(POWER(2, @position) AS bigint)
    RETURN CASE WHEN (@board & @mask) <> 0 THEN 1 ELSE 0 END
END

设置/清除指定bit位

CREATE FUNCTION dbo.SetBit(@board bigint, @position tinyint, @value bit)
RETURNS bigint
AS
BEGIN
    IF @position = 63
    BEGIN
        RETURN CASE @value 
            WHEN 1 THEN @board | 0x8000000000000000 -- 置位符号位
            ELSE @board & 0x7FFFFFFFFFFFFFFF       -- 清除符号位
        END
    END

    DECLARE @mask bigint = CAST(POWER(2, @position) AS bigint)
    RETURN CASE @value
        WHEN 1 THEN @board | @mask
        ELSE @board & ~@mask
    END
END

2. 模拟无符号移位操作 #

SQL Server的右移(>>)是算术移位（符号位填充），若需模拟无符号逻辑右移，可通过二进制转换实现：

CREATE FUNCTION dbo.LogicalRightShift(@board bigint, @shift tinyint)
RETURNS bigint
AS
BEGIN
    IF @shift = 0 RETURN @board
    
    -- 正数直接算术移位即可
    IF @board >= 0
        RETURN @board >> @shift
    
    -- 负数转二进制后移位，再转回bigint
    DECLARE @binary varbinary(8) = CAST(@board AS varbinary(8))
    SET @binary = @binary >> @shift
    RETURN CAST(@binary AS bigint)
END

二、64个bit列转换为bigint的实现 #

直接通过位运算拼接所有bit列，生成对应的bigint值：

ALTER TABLE YourChessTable
ADD BoardAsBigInt AS CAST(
    CASE WHEN Bit63 = 1 THEN 0x8000000000000000 ELSE 0 END
    | CASE WHEN Bit62 = 1 THEN 0x4000000000000000 ELSE 0 END
    | CASE WHEN Bit61 = 1 THEN 0x2000000000000000 ELSE 0 END
    | ... -- 依次处理Bit60到Bit0
    | CASE WHEN Bit0 = 1 THEN 0x1 ELSE 0 END
AS bigint) PERSISTED

注：PERSISTED关键字会将计算列的值物理存储，提升查询性能，后续可直接基于该列创建索引。

三、性能优化补充 #

1. 创建索引：针对BoardAsBigInt列创建非聚集索引，大幅提升基于棋盘状态的关联查询速度。
2. 位计数优化：若需统计棋盘上的棋子数量，SQL Server 2022及以上版本可直接用BIT_COUNT(BoardAsBigInt)；低版本可自定义位计数函数，例如通过循环或二进制字符串替换实现。

内容的提问来源于stack exchange，提问作者smatofu