YOLOv8预测接口内存持续攀升致OOM问题求助
YOLOv8预测接口内存泄漏问题
我搭建了一个提供YOLOv8预测服务的接口,模型初始化代码如下:
from ultralytics import YOLO yolo_model = YOLO('myownyolo.pt')
每次请求调用以下预测代码时,内存占用会增加40-250MB:
for result in yolo_model.predict(image_data, conf=0.50, stream=True):
内存变化情况如下:
391.7 MiB 0.0 MiB - 调用predict前 602.7 MiB 209.8 MiB - 调用predict后 # 每次后续请求的初始以上一次请求结束时的内存为准,最终因内存耗尽被OOM终止
注:每次后续请求的初始内存以上一次请求结束时的数值为准,最终服务会因内存耗尽被OOM(内存不足)终止。
已尝试的无效内存回收方法
我试过以下内存回收代码,但完全没有效果:
del result del image_data gc.collect()
另外看到StackOverflow上有帖子提到可以导入keras并使用以下代码尝试内存回收:
K.clear_session()
内容的提问来源于stack exchange,提问作者Vladyslav Martynenko
相关产品推荐
相关产品推荐

