Ubuntu环境下如何关闭llama-cpp-python的日志打印？

以下是几种在Ubuntu系统下关闭llama-cpp-python日志、只输出生成响应的可行方法：

• 方法1：通过Python日志模块直接过滤
  llama-cpp-python基于Python标准日志库，直接调整它的日志级别即可屏蔽所有非必要日志：

import logging
from llama_cpp import Llama

# 将llama_cpp模块的日志级别设为高于CRITICAL，彻底屏蔽所有日志
logging.getLogger("llama_cpp").setLevel(logging.CRITICAL + 1)

# 初始化模型
llm = Llama(model_path="./your-model.gguf")

# 生成并打印纯响应内容
result = llm("你的提示文本", max_tokens=200)
print(result["choices"][0]["text"].strip())

• 方法2：初始化模型时设置verbose参数
  Llama类初始化时提供了verbose参数，设为False可以关闭大部分运行时日志：

from llama_cpp import Llama

# 初始化时关闭verbose日志输出
llm = Llama(model_path="./your-model.gguf", verbose=False)

# 生成响应并仅打印内容
response = llm("你的提示文本", max_tokens=200)
print(response["choices"][0]["text"].strip())

如果还有少量残留日志，可以结合方法1一起使用。

• 方法3：通过环境变量控制日志级别
  在启动脚本前设置环境变量，或者在脚本内直接指定：

# 终端启动前设置
export LLAMA_CPP_PYTHON_LOG_LEVEL=CRITICAL

或者脚本内设置：

import os
os.environ["LLAMA_CPP_PYTHON_LOG_LEVEL"] = "CRITICAL"

from llama_cpp import Llama
llm = Llama(model_path="./your-model.gguf")
# 后续生成响应逻辑同上

该方法会将日志级别限制为仅致命错误，日常运行的日志都会被屏蔽。

内容的提问来源于stack exchange，提问作者San Vik