LangChain将gpt-3.5-turbo-instruct误分类为聊天模型问题求助

环境信息 #

• Python版本：^3.10
• LangChain版本：^0.0.130
• 操作系统：Ubuntu

预期行为 #

LangChain应正确识别gpt-3.5-turbo-instruct为补全模型，初始化过程无警告或错误。

实际行为 #

初始化gpt-3.5-turbo-instruct时收到警告，提示该模型被误分类为聊天模型，警告内容如下：

/home/mahdi/.cache/pypoetry/virtualenvs/backend-bRqVKcMN-py3.11/lib/python3.11/site-packages/langchain/llms/openai.py:169: UserWarning: You are trying to use a chat model. This way of initializing it is no longer supported. Instead, please use: `from langchain.chat_models import ChatOpenAI`
/home/mahdi/.cache/pypoetry/virtualenvs/backend-bRqVKcMN-py3.11/lib/python3.11/site-packages/langchain/llms/openai.py:608: UserWarning: You are trying to use a chat model. This way of initializing it is no longer supported. Instead, please use: `from langchain.chat_models import ChatOpenAI

简化代码 #

from langchain import OpenAI

llm = OpenAI({
            "model_name": "gpt-3.5-turbo-instruct",
            "temperature": 0.0,
            "top_p": 1,
            "openai_api_key": "API_KEY",
        })
        
print(llm)

输出结果 #

OpenAIChat[Params: {'model_name': 'gpt-3.5-turbo-instruct', 'temperature': 0.0, 'top_p': 1}

解决办法 #

1. 升级LangChain版本 #

当前使用的LangChain 0.0.130版本未适配gpt-3.5-turbo-instruct模型，升级到0.1.x及以上版本后，模型分类逻辑已修复，原代码可直接正常运行，不会再出现误判。

2. 不升级版本的临时修复 #

在初始化模型后手动强制标记为非聊天模型，修改后的代码如下：

from langchain import OpenAI

llm = OpenAI({
            "model_name": "gpt-3.5-turbo-instruct",
            "temperature": 0.0,
            "top_p": 1,
            "openai_api_key": "API_KEY",
        })
# 强制标记为非聊天模型，消除警告
llm.is_chat_model = False
        
print(llm)

内容的提问来源于stack exchange，提问作者Mahdi Jafari