VB.NET与C#二进制移位运算结果不一致问题解决方法
问题原因
两种语言移位运算的操作数类型提升规则不一致,是结果差异的核心来源:
- C#中对
byte类型执行移位操作时,会先将byte隐式提升为32位int类型再运算,结果为int类型,不会出现8位截断。以你提到的差异值为例:对应位置的字节值为190,转int后左移1位计算为190 * 2 = 380,和预期结果一致。 - VB.NET中直接对
Byte类型执行<<运算时,返回结果仍为Byte类型(8位无符号,取值范围0~255),运算中超过8位的高位会被直接截断。190的二进制为10111110,左移1位得到9位值101111100,截断低8位后为01111100,对应十进制值124,就是VB中得到的偏差结果。
这也解释了为什么前8次循环结果一致:前8次处理的字节值为0、58、8,左移1位后结果均不超过255,不会触发Byte截断,结果和C#一致;一旦处理的字节值大于等于128,左移1位后超过255就会出现结果偏差。
修复方法
在执行移位运算前,显式将字节值转换为Integer类型,对齐C#的类型提升逻辑即可,修改后的核心代码如下:
Public Sub MultiplyH(ByVal x As Byte()) ' 显式转Integer后再移位 Dim pos As Integer = CInt(x(15)) << 1 Dim i = 14 While i >= 0 ' 显式转Integer后再移位 pos = CInt(x(i)) << 1 Interlocked.Decrement(i) End While End Sub
修改后所有位置的pos计算结果将和C#代码完全一致,差异位置的计算结果将为380,符合预期。
内容的提问来源于stack exchange,提问作者shakydd
相关产品推荐
相关产品推荐

