Excel十六进制转十进制输出结果与预期不符问题求助

问题排查提示 #

1. 首先验证Excel数值精度限制：直接在空白单元格输入你预期的正确结果1213017328610432，按回车后会发现数值自动变为1213017328610430，这是Excel的原生限制：双精度浮点数仅支持15位有效十进制整数，超过15位的部分会自动丢失精度，你得到的偏差2的结果就是该限制导致的，和转换逻辑本身无关。
2. 排查公式法问题：Excel内置HEX2DEC函数仅支持最多10位长度的十六进制数，你拆分后的计算步骤中，HEX2DEC(MID(D3164,3,4))*POWER(16,10)的结果已经超过15位有效数字，计算过程中就已经出现精度丢失，最终相加结果自然存在偏差。
3. 排查VBA代码问题：你定义的函数返回值为Double类型，和Excel单元格的精度规则一致，即便你用CDec得到了精度更高的Decimal类型结果，赋值给Double类型的返回值时会自动触发类型转换，丢失末尾精度。

修复方案 #

修改VBA代码即可解决，将函数返回值改为字符串类型，避免数值转换的精度丢失，参考修改后代码：

' 强制显式声明变量
Option Explicit

' 十六进制转十进制
' 入参：字符串格式的十六进制值
' 返回值：字符串格式十进制值，避免精度丢失
Public Function HexadecimalToDecimal(HexValue As String) As String
    ' 如果十六进制以0x开头，替换为VBA可识别的十六进制前缀&H
    Dim ModifiedHexValue As String
    ModifiedHexValue = Replace(HexValue, "0x", "&H")
    ' 转换为Decimal后转字符串输出，保留全部精度
    HexadecimalToDecimal = CStr(CDec(ModifiedHexValue))
End Function

注意使用该函数时，目标单元格需提前设置为文本格式，避免Excel自动将返回的字符串转为数值再次丢失精度。

内容的提问来源于stack exchange，提问作者Karthikeyan Vijaya kumar