使用spacy-llm调用OpenAI API时遭遇429 ConnectionError问题求助
解决spacy-llm调用OpenAI API时的429重试问题
spacy-llm默认会对OpenAI返回的错误(包括429请求超限)自动重试,要禁用这一机制,只需在配置中设置max_retries参数为0,以下是两种实现方式:
通过配置文件设置
在你的spacy配置文件(如config.cfg)的LLM模型配置块中添加max_retries = 0:[components.llm] factory = "llm" [components.llm.model] @llm_models = "spacy.GPT-4.v1" name = "gpt-4" api_key = "${OPENAI_API_KEY}" max_retries = 0 # 禁用自动重试通过Python代码动态配置
如果是用代码直接构建NLP管道,初始化LLM组件时传入max_retries=0:from spacy_llm import add_llm import spacy nlp = spacy.blank("en") add_llm( nlp, name="gpt-4", api_key="你的OpenAI API密钥", max_retries=0 # 禁用自动重试 )
禁用重试后,遇到429错误会直接抛出异常,不会再发起重复请求。另外需要注意,429错误本质是OpenAI的限流机制触发,建议同时检查请求频率是否符合OpenAI的配额限制,比如调整批量处理的任务量,或等待限流周期结束后再操作。
内容的提问来源于stack exchange,提问作者James
相关产品推荐
相关产品推荐

