加载FluxPipeline组件时程序无响应终止问题求助

问题代码 #

import torch
from diffusers import FluxPipeline

pipe = FluxPipeline.from_pretrained('C:\\Python\\Projects\\test1\\flux1dev', torch_dtype=torch.bfloat16)
pipe.enable_sequential_cpu_offload()

prompt = "beach ball"
image = pipe(
    prompt,
    height = 1024,
    width = 1024,
    guidance_scale = 3.5,
    num_inference_steps = 50,
    max_sequence_length = 512,
    generator = torch.Generator("cpu").manual_seed(0)
).images[0]
image.save("beach ball.png")

问题描述 #

运行上述Flux.1测试代码时，加载部分FluxPipeline组件后程序直接终止，无异常信息、错误代码输出，也未生成目标图片；同时终端出现加载内容被挤到下一行的异常显示。

排查与解决方案 #

• 检查显存/内存资源
  Flux模型（尤其是flux1dev）体积庞大，torch.bfloat16虽能节省显存，但GPU显存不足（如低于16GB）时，配合enable_sequential_cpu_offload可能导致无预警崩溃：

  • 若显存充足，移除enable_sequential_cpu_offload()，改用pipe.to("cuda")直接加载到GPU
  • 显存紧张时，替换为pipe.enable_model_cpu_offload()，该调度方式比sequential版本更稳定

• 验证模型文件完整性
  本地模型文件缺失或损坏会导致加载中断：

  • 重新下载模型，确保所有权重文件（.safetensors、config.json等）完整
  • 加载时添加local_files_only=False参数，让diffusers自动校验并补全缺失文件

• 同步依赖版本
  diffusers与PyTorch、transformers版本不兼容可能引发加载崩溃：

  • 升级依赖包：pip install --upgrade diffusers transformers accelerate
  • 若仅用CPU运行，torch.bfloat16支持性差，改用torch.float32

• 添加异常捕获与日志
  强制捕获异常并启用日志，定位加载过程中的问题：

  import torch
  import logging
  from diffusers import FluxPipeline
  
  logging.basicConfig(level=logging.INFO)
  
  try:
      pipe = FluxPipeline.from_pretrained('C:\\Python\\Projects\\test1\\flux1dev', torch_dtype=torch.bfloat16)
      pipe.enable_model_cpu_offload()
  
      prompt = "beach ball"
      image = pipe(
          prompt,
          height=1024,
          width=1024,
          guidance_scale=3.5,
          num_inference_steps=50,
          max_sequence_length=512,
          generator=torch.Generator("cpu").manual_seed(0)
      ).images[0]
      image.save("beach ball.png")
  except Exception as e:
      print(f"捕获异常: {e}")
  

内容的提问来源于stack exchange，提问作者Donald Moore