如何在langchainrb gem的Assistant模块中自定义OpenAI模型配置(设置gpt-4o和temperature=0.1)
如何在langchainrb gem的Assistant模块中自定义OpenAI模型配置(设置gpt-4o和temperature=0.1)
嗨,我之前也碰到过这个问题,其实用llm_options或者直接初始化LLM实例时指定参数就能轻松解决,给你两种靠谱的方案:
方案一:初始化OpenAI LLM实例时设置默认配置
你可以先创建一个预先配置好模型和温度的OpenAI客户端实例,再把它传给Assistant模块:
# 初始化带有指定配置的OpenAI LLM实例 llm = Langchain::LLM::OpenAI.new( model_name: "gpt-4o", temperature: 0.1 ) # 将配置好的实例传入Assistant assistant = Langchain::Assistant.new(llm: llm)
方案二:通过Assistant的llm_options参数覆盖配置
如果已经有了基础的LLM实例,或者想在Assistant层面单独定制参数,直接用llm_options传递你需要的配置即可:
assistant = Langchain::Assistant.new( llm: Langchain::LLM::OpenAI.new, llm_options: { model_name: "gpt-4o", temperature: 0.1 } )
这两种方式都能让你的Assistant顺利使用gpt-4o模型,并且把temperature设为0.1,亲测好用!
备注:内容来源于stack exchange,提问作者fguillen
相关产品推荐
相关产品推荐

