我来帮你梳理下训练时损失持续为NaN的常见原因，结合你使用的注意力时空LSTM模型，大概率是下面这些情况之一：

• 梯度爆炸/消失
  注意力机制结合LSTM的结构，在反向传播时容易出现梯度累积过度的问题。如果梯度值过大，参数更新后会变成无穷大，进而导致损失计算出现NaN。
  建议：添加梯度裁剪，比如使用TensorFlow的tf.clip_by_norm(gradients, max_norm)限制梯度的范数；同时检查权重初始化方式，换成Xavier或He初始化，避免初始权重值过大。

• 输入数据存在异常值或缺失值
  POI推荐的数据集里可能包含异常的POI坐标（比如纬度/经度超出[-90,90]/[-180,180]范围）、用户行为的缺失记录，或者未做归一化的特征值。这些异常会在模型计算中传播，最终导致损失为NaN。
  建议：先对输入数据做预处理：填充缺失值，过滤异常的POI数据，将所有连续特征（比如坐标、时间间隔）归一化到[0,1]或[-1,1]区间。

• 损失函数计算的数值不稳定
  POI推荐常用交叉熵作为损失函数，如果模型输出的概率值为0，计算log(prob)时会得到负无穷，进而导致损失变成NaN。另外，如果标签的类别索引超出模型输出层的维度，也会引发异常。
  建议：在计算对数之前给概率值加上一个极小的epsilon（比如1e-8），避免log(0)的情况；同时确认标签的类别范围和模型输出层的神经元数量完全匹配，没有无效的标签值。

• 学习率设置过高
  过大的学习率会让参数更新步长超出合理范围，直接导致权重变成无穷大或NaN，尤其是在训练初期。
  建议：尝试降低学习率，比如从原有的1e-3调整到1e-4或1e-5，观察损失是否恢复正常。

• 注意力机制的数值溢出
  注意力机制中的softmax运算如果输入的得分值过大，会引发指数爆炸，导致数值变成无穷大，进而产生NaN。
  建议：在计算softmax之前对得分做数值稳定处理，比如减去得分的最大值（scores = scores - tf.reduce_max(scores)），再进行softmax计算，避免指数运算溢出。

你可以先从检查输入数据和降低学习率入手，这两个是最容易排查和解决的常见原因。

内容的提问来源于stack exchange，提问作者drorhun