MariaDB中X'val'十六进制表达式求值为0且报错的问题求助

原因分析 #

• MariaDB 10.1与MySQL 8.0对十六进制字面量的处理逻辑存在差异：MySQL 8.0中X'41'被视为二进制字符串，进行数字运算或转无符号整数时，会将二进制字节解析为对应ASCII数值（此处为65）；但MariaDB 10.1里，X'41'会被解码为当前utf8mb4字符集下的字符'A'，而非二进制字节。
• 当尝试将字符'A'转为数字时，由于字符串开头不是有效数值，MariaDB会触发1292警告（截断错误数值），并返回0作为转换结果，这也是PHP调用时结果为0的原因。

解决方法 #

• 先将十六进制字面量转为二进制字符串再处理：通过CAST(X'41' AS BINARY)强制转换为二进制类型，再执行运算或类型转换，示例语句：

  SET @v2 = CAST(X'41' AS BINARY)+0;
  SET @v3 = CAST(CAST(X'41' AS BINARY) AS UNSIGNED);
  SELECT @v1, @v2, @v3;
  

• 使用UNHEX()函数替代X语法：UNHEX('41')直接返回二进制字符串，避免字符集解码问题，示例：

  SET @v2 = UNHEX('41')+0;
  SET @v3 = CAST(UNHEX('41') AS UNSIGNED);
  

• 直接使用十进制数值：如果已知十六进制对应的十进制值（如X'41'对应65），直接使用数值字面量可跳过类型转换，避免兼容性问题。
• 升级MariaDB版本：MariaDB 10.3及以上版本对十六进制字面量的处理逻辑更贴近MySQL 8.0，升级后可直接兼容原MySQL语句。

内容的提问来源于stack exchange，提问作者Mike Eustace