TensorFlow lm_1b模型初始化时出现段错误问题求助

我来帮你排查这个lm_1b模型加载时的段错误问题，这类问题通常和内存资源、文件完整性或者版本兼容有关，结合你给出的信息，我们一步步来分析解决：

1. 内存资源耗尽（最可能的原因） #

lm_1b是一个超大规模的语言模型，加载时需要占用极高的内存——你生成的19GB核心文件也侧面印证了内存溢出的可能性。

• 先检查你的机器空闲内存：建议至少预留32GB以上的可用内存（包括Swap分区），如果物理内存不足，临时增加Swap空间可以缓解这个问题。
• 运行时限制TensorFlow的内存占用：
  • 如果使用GPU，添加环境变量：export TF_FORCE_GPU_ALLOW_GROWTH=true，让TensorFlow按需分配GPU内存，避免一次性占满。
  • 如果用CPU，也可以在代码里设置内存限制，比如在lm_1b_eval.py开头添加：

    import tensorflow as tf
    config = tf.ConfigProto()
    config.gpu_options.allow_growth = True
    sess = tf.Session(config=config)
    

2. 检查点文件损坏或不完整 #

你使用了ckpt-*通配符加载检查点，如果下载的文件有缺失、损坏，或者包含未完成的临时文件，就会导致内存访问错误：

• 重新下载检查点文件，对照官方提供的MD5哈希值验证每个文件的完整性。
• 尝试指定具体的检查点文件名（比如ckpt-00090），而不是用通配符，避免加载到无效的临时文件。

3. TensorFlow与Bazel版本不兼容 #

lm_1b是基于TensorFlow 1.x开发的老模型，如果你用了较新的TF 2.x或高版本Bazel，很可能存在API不兼容问题，引发段错误：

• 查看lm_1b项目的README文档，使用官方推荐的TensorFlow 1.x版本（比如1.15.x）。
• 用对应版本的Bazel重新编译项目，确保编译环境和模型开发环境一致。

4. 状态初始化的张量匹配问题 #

段错误发生在sess.run(t['states_init'])之后，可能是初始化张量和模型状态变量的形状不匹配，导致内存分配出错：

• 打开lm_1b_eval.py，找到t['states_init']的定义，确认它的形状和模型的LSTM状态变量完全匹配。
• 在初始化前添加调试日志，打印张量的形状和内存占用，比如：

  print("States init tensor shape:", t['states_init'].shape)
  print("Memory usage:", tf.contrib.memory_stats.MaxBytesInUse().eval(session=sess))
  

内容的提问来源于stack exchange，提问作者bivouac0