基于Python3.10.10搭建的本地聊天机器人德语提问返回英文问题求助

以下是针对问题的具体解决步骤，从语言检测、prompt配置到LLM设置逐一排查：

1. 先验证语言检测的准确性 #

你用的langdetect可能对短文本检测不准，先加个测试确认结果是否正确：

from langdetect import detect

# 测试德语输入
user_query = "Wie funktioniert dieser Chatbot?"
detected_lang = detect(user_query)
print(detected_lang)  # 预期输出 'de'

如果检测结果错误，建议替换为更可靠的工具，比如spacy的语言检测器：

# 先安装依赖
pip install spacy spacy-langdetect
python -m spacy download xx_ent_wiki_sm

import spacy
from spacy_langdetect import LanguageDetector

nlp = spacy.load("xx_ent_wiki_sm")
nlp.add_pipe(LanguageDetector(), name='language_detector', last=True)

doc = nlp(user_query)
detected_lang = doc._.language['language']  # 获取语言代码

2. 在系统提示词中强制指定回复语言 #

检测到语言后，必须把语言要求明确写入LLM的系统prompt，这是让模型切换回复语言的核心：

from langchain_core.prompts import ChatPromptTemplate

# 映射语言代码到模型能理解的语言名称
lang_map = {
    'de': 'German',
    'en': 'English',
    'zh': 'Chinese'
    # 根据需要添加更多语言映射
}
response_lang = lang_map.get(detected_lang, 'English')  # 默认英文兜底

# 构造带语言要求的prompt
prompt = ChatPromptTemplate.from_messages([
    ("system", f"You are a helpful assistant. You must always respond in {response_lang}, no exceptions. Translate any retrieved information to {response_lang} if needed."),
    ("human", "{input}"),
    ("system", "Context from knowledge base: {context}")  # 如果用了RAG，加上上下文
])

# 绑定到你的LLM（比如ChatOllama或本地部署的模型）
chain = prompt | llm

3. 检查LLM的配置与多语言支持 #

确保你使用的本地模型本身支持多语言（比如Mistral-7B、LLaMA 2 70B、Qwen等），同时调整模型参数让它更严格遵循指令：

from langchain_community.chat_models import ChatOllama

# 示例：调用本地Mistral模型，降低temperature让回复更贴合指令
llm = ChatOllama(
    model="mistral",
    temperature=0.1,  # 越低越遵循指令，越高越灵活
    max_tokens=512
)

4. 处理知识库内容的语言干扰 #

如果你的Chroma知识库中大部分是英文文档，模型可能会被带偏。可以在prompt中明确要求翻译：

# 修改系统prompt，强调翻译要求
prompt = ChatPromptTemplate.from_messages([
    ("system", f"You are a helpful assistant. Respond ONLY in {response_lang}. If the context provided is in a different language, translate all relevant information to {response_lang} before answering."),
    ("human", "{input}"),
    ("system", "Context: {context}")
])

内容的提问来源于stack exchange，提问作者Urvesh