为何坐标距离计算函数返回-1.#IND(NaN)？如何调试

首先，先明确**-1.#IND是什么：这是Windows平台下双精度浮点数（Double类型）用来表示不确定值（Indeterminate NaN，即Not a Number）**的输出格式。当数学运算的结果在实数范围内没有定义时，就会产生这种值——比如对负数开平方、0除以0，或者像你遇到的，给Acos函数传入了超出[-1, 1]范围的参数。

为什么你的函数会出现这个问题？ #

当两个坐标完全相同时，理论上Cos(X_1)*Cos(X_2)+Sin(X_1)*Sin(X_2)*Cos(Y_1-Y_2)的结果应该是1，此时Acos(1)返回0，最终距离为0。但因为浮点数的精度限制，三角函数计算会产生微小的误差：比如这个表达式的结果可能变成1.0000000000000002或者-1.0000000000000002，超出了Acos函数的合法输入范围，导致函数返回NaN，最终输出就是-1.#IND。

调试与解决方法 #

这里有几个可行的步骤来定位和修复问题：

• 添加调试输出，确认输入值：在计算DistanciaTotal之前，插入一行代码打印传入Acos的参数值，看看它是否真的超出了[-1,1]范围：

  Dim acosParam As Double = Cos(X_1) * Cos(X_2) + Sin(X_1) * Sin(X_2) * Cos(Y_1 - Y_2)
  Debug.Print("Acos输入值: " & acosParam) ' 在即时窗口查看输出
  

  当坐标相同时，你大概率会看到这个值略大于1或者略小于-1。

• 对Acos的输入进行钳位处理：直接把参数限制在[-1,1]范围内，抵消浮点数精度误差：

  Dim acosInput As Double = Cos(X_1) * Cos(X_2) + Sin(X_1) * Sin(X_2) * Cos(Y_1 - Y_2)
  ' 钳位到合法范围
  acosInput = Math.Max(-1.0, Math.Min(1.0, acosInput))
  DistanciaTotal = Acos(acosInput) * 6371
  

• 提前判断坐标是否接近：因为浮点数直接用=判断相等并不严谨，你可以设置一个极小的阈值，当两个坐标的差值小于阈值时，直接返回0，跳过后续计算：

  Const EPSILON As Double = 1e-10 ' 可根据需求调整阈值大小
  If Math.Abs(X - X2) < EPSILON AndAlso Math.Abs(Y - Y2) < EPSILON Then
      Return 0.0
  End If
  

内容的提问来源于stack exchange，提问作者E_Blue