如何在Google Colab中不重置运行环境释放RAM内存空间

sys.getsizeof仅统计Python对象本身的直接内存占用，不会递归计算关联子对象、框架后端缓存的内存：你缺失的10GB内存主要来自TensorFlow/Keras全局缓存的计算图、模型中间激活值、梯度张量、运算内核缓存，这些资源不归Python locals变量直接持有，所以不会被你的统计代码捕捉到。

• 调整模型销毁执行顺序
  每个模型训练完成后，先手动删除模型实例，再清空Keras会话，最后触发垃圾回收，顺序错误会导致部分缓存无法被清理：

  # 单个模型训练完成后依次执行
  del model
  keras.backend.clear_session()
  gc.collect()
  

• 清理TensorFlow底层计算图缓存
  Keras的clear_session不会完全重置TF全局计算图，需要额外调用底层接口清理：

  from tensorflow.python.framework import ops
  ops.reset_default_graph()
  

• 禁用不必要的框架缓存
  训练前添加以下配置，关闭即时编译缓存和冗余设备内存分配：

  import tensorflow as tf
  tf.config.optimizer.set_jit(False)
  tf.config.set_soft_device_placement(True)
  

• 避免数据冗余拷贝
  全局复用同一份xtrain/xtest数组，不要在循环中对数据集做重复拷贝、分片操作；如果使用tf.Data构造数据集，不要为每个模型单独创建数据集实例，全局复用即可。

如果上述操作仍未解决问题，可以使用tracemalloc模块统计全链路内存分配，定位未释放内存的产生位置：

import tracemalloc
# 训练前启动统计
tracemalloc.start()

# 执行单轮模型训练流程

# 输出内存占用Top10位置
snapshot = tracemalloc.take_snapshot()
top_stats = snapshot.statistics('lineno')
print("[Top 10 memory usage locations]")
for stat in top_stats[:10]:
    print(stat)

内容的提问来源于stack exchange，提问作者nico_so