FastAPI/Pydantic自定义验证器失效：无法识别PeftModel类型报错

问题根源 #

你使用的是Pydantic 1.10.x（1.x版本），但错误采用了Pydantic 2.x专属的ConfigDict配置方式，导致arbitrary_types_allowed=True未生效，这是报错的核心原因。

直接解决方案：修正Pydantic 1.x的配置写法 #

将原来的model_config = ConfigDict(arbitrary_types_allowed=True)替换为Pydantic 1.x的传统配置类写法：

from pydantic import BaseModel
from peft import PeftModelForCausalLM

class YourCustomModel(BaseModel):
    # 你的业务字段
    peft_model: PeftModelForCausalLM
    # 其他第三方类型字段同理

    # Pydantic 1.x的正确配置方式
    class Config:
        arbitrary_types_allowed = True

更优实践：避免将模型实例放入Pydantic Model #

大模型实例（如PeftModel、Transformers模型）属于运行时资源，不应作为请求/响应数据的一部分放入Pydantic Model。正确做法是用全局变量或依赖注入管理这类资源：

from fastapi import FastAPI, Depends
from peft import PeftModelForCausalLM
from transformers import AutoTokenizer

# 服务启动时全局加载模型（仅加载一次）
model = PeftModelForCausalLM.from_pretrained("your-peft-model-path")
tokenizer = AutoTokenizer.from_pretrained("your-base-model-path")

app = FastAPI()

# 定义依赖，提供模型实例
def get_peft_model():
    return model

@app.post("/generate-text")
async def generate_text(input_text: str, model: PeftModelForCausalLM = Depends(get_peft_model)):
    # 用模型处理请求
    inputs = tokenizer(input_text, return_tensors="pt")
    outputs = model.generate(**inputs, max_new_tokens=100)
    return {"generated_text": tokenizer.decode(outputs[0], skip_special_tokens=True)}

这种方式彻底规避了Pydantic序列化第三方模型实例的问题，同时符合FastAPI资源管理的最佳实践。

额外排查点 #

• 若存在嵌套的Pydantic Model包含第三方类型，需确保所有嵌套Model都配置了class Config: arbitrary_types_allowed = True
• 检查接口响应是否不小心返回了包含模型实例的对象，此时应只返回业务数据（如生成的文本、处理结果），不要包含模型实例本身
• 确认是否有其他代码路径（如日志打印、中间件处理）触发了Pydantic对模型实例的序列化操作

内容的提问来源于stack exchange，提问作者wferguson8