如何在LlamaIndex中支持OpenAI Chat Completions API格式?
问题:在LlamaIndex的CondenseQuestionChatEngine中支持OpenAI Chat Completions消息格式
我在项目中使用LlamaIndex,正尝试让聊天引擎支持OpenAI Chat Completions API采用的消息列表格式。这种格式以消息数组作为提示,每条消息包含role(可选值为'system'、'user'或'assistant')和content(消息文本)字段,示例如下:
{ "model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Hello!"}] }
但当我使用LlamaIndex中的CondenseQuestionChatEngine.from_defaults函数创建聊天引擎时,发现condense_question_prompt参数并不支持这种消息列表格式,代码示例如下:
chat_engine = CondenseQuestionChatEngine.from_defaults( query_engine=query_engine, condense_question_prompt=custom_prompt, chat_history=custom_chat_history, verbose=True )
这个限制影响了我与模型进行复杂交互的能力,尤其在对话AI应用场景中。请问有谁遇到过此类问题,或能提供在LlamaIndex中支持OpenAI Chat Completions API格式的指导?
内容的提问来源于stack exchange,提问作者Ray
相关产品推荐
相关产品推荐

