四元方程求解器开发：精确一位小数参数约束设置咨询

我之前在开发数值求解工具时也碰到过类似的精确小数约束难题，给你分享两个实用的解决方案：

方案一：修复浮点数精度问题的布尔检查函数 #

你最初用Round的思路方向是对的，但忽略了浮点数的二进制存储精度误差——比如像0.1这样的十进制小数，在计算机里是无限循环的二进制近似值，直接判断Round(val*10) = val*10可能会出现误判。

可以通过引入一个极小的误差阈值（epsilon）来解决这个问题，修改后的函数如下：

Function EstValide(Rng As Range) As Boolean
    Dim val As Double
    val = Rng.Value
    ' 定义极小误差阈值，处理浮点数精度问题
    Const EPS As Double = 1e-9
    Dim scaledValue As Double
    scaledValue = val * 10
    
    ' 检查乘10后的值是否接近整数（差值小于epsilon）
    EstValide = (Abs(scaledValue - Round(scaledValue)) < EPS)
End Function

这个函数会同时满足两种情况：

• 整数：乘10后还是整数，差值为0
• 精确到一位小数的数值：乘10后是整数，差值小于epsilon（避免浮点数精度干扰）

方案二：将小数约束转化为整数约束（更可靠） #

如果你的求解器支持整数变量约束，这个方法会更稳妥——直接把要求精确一位小数的变量做数学替换：
假设变量x需要是整数或精确到一位小数，那么定义一个新的整数变量y = 10*x，此时x = y/10。

把原方程中所有的x替换成y/10，这样就把x的约束转化为y必须是整数。这种方法完全避开了浮点数精度问题，而且大多数数值求解工具对整数变量的支持都更成熟。

举个例子：如果原方程是3x + 2z = 15，其中x要求精确一位小数，替换后就变成3*(y/10) + 2z = 15，整理为3y + 20z = 150，此时求解y为整数即可，得到的x自然是精确到一位小数的数值（当y是10的倍数时，x就是整数）。

内容的提问来源于stack exchange，提问作者wouudyy