Linux系统中从llama_index.llms导入Ollama时遇导入错误

可能原因及修复步骤 #

1. llama-index版本过低 #

Ollama集成在llama-index的较新版本中，旧版本无此模块。

• 执行命令升级至最新版：

  pip3 install --upgrade llama-index
  

2. 导入路径错误 #

部分版本中Ollama的导入路径不同，替换导入语句：

from llama_index.llms.ollama import Ollama

3. 检查Ollama服务状态 #

确保Ollama后台服务正常运行，未启动则执行：

ollama serve

可先通过CLI验证Ollama可用性：

ollama run llama2 "What is code?"

4. 解决依赖冲突 #

创建虚拟环境重新安装依赖，避免版本冲突：

# 创建虚拟环境
python3 -m venv ollama-env
# 激活虚拟环境
source ollama-env/bin/activate
# 重新安装依赖
pip install llama-index ollama qdrant_client torch transformers

5. 补充代码初始化步骤 #

原代码缺少Ollama实例初始化，补充后完整代码：

from llama_index.llms.ollama import Ollama
# 初始化Ollama并指定模型（如llama2）
llm = Ollama(model="llama2")
response = llm.complete("What is code?")
print(response)

内容的提问来源于stack exchange，提问作者sami