为聊天机器人创建Pinecone内存时遭遇429错误求助

问题详情 #

为聊天机器人搭建Pinecone内存时，调用PineconeStore.fromTexts函数触发错误：consumeToPinecone Error: Request failed with status code 429，已尝试更换新的Pinecone凭证，问题未解决。

相关代码片段：

static async consumeToPinecone(namespace: string, text: string, opts?: {
    chunkSize?: number;
    chunkOverlap?: number;
    openAIApiKey?: string;
  }) {
    const { chunkSize = 1200, chunkOverlap = 20 } = opts || {};
    const { RecursiveCharacterTextSplitter } = await import('langchain/text_splitter');
    const { OpenAIEmbeddings } = await import('langchain/embeddings/openai');
    const { PineconeStore } = await import('langchain/vectorstores/pinecone');

    const pinecone = await this.initPinecone(
      pineconeConfig.apiKey,
      pineconeConfig.environment
    );

    const index = pinecone.Index(pineconeConfig.index);

    try {
      await index._delete({
        deleteRequest: {
          namespace,
          deleteAll: true,
        }
      });
    } catch (e) {
        console.error(`Failed to delete namespace ${namespace}`, e);
    }
    console.info(`Deleting namespace 2 ${namespace}`);

    const textSplitter = new RecursiveCharacterTextSplitter({
      chunkSize,
      chunkOverlap,
    });

    const texts = await textSplitter.splitText(text);

    const embeddings = new OpenAIEmbeddings({
      openAIApiKey: opts?.openAIApiKey || openAI.apiKey,
    });

    // 触发错误的代码
    await PineconeStore.fromTexts(
      texts,
      {},
      embeddings,
      {
        pineconeIndex: index,
        namespace,
        textKey: 'text',
      }
    );
  }

原因分析与解决方案 #

1. Pinecone API请求频率超限 #

429错误核心是请求速率超出Pinecone的配额限制，更换凭证无法解决账号级的配额问题。

• 减小批量插入大小：在PineconeStore.fromTexts中添加batchSize参数，降低单次请求的数据量，减少请求频率：

  await PineconeStore.fromTexts(
    texts,
    {},
    embeddings,
    {
      pineconeIndex: index,
      namespace,
      textKey: 'text',
      batchSize: 10 // 调整为合适的批量值，默认值可能过大
    }
  );
  

• 检查Pinecone配额：登录Pinecone控制台查看当前索引的请求速率限制，若超出免费层配额，可考虑升级付费方案。

2. OpenAI Embeddings请求超限 #

PineconeStore.fromTexts会先调用OpenAI生成向量，若OpenAI API请求超限，也会引发连锁的429错误。

• 限制Embeddings并发请求：在OpenAIEmbeddings实例中配置并发和批量参数，控制请求频率：

  const embeddings = new OpenAIEmbeddings({
    openAIApiKey: opts?.openAIApiKey || openAI.apiKey,
    maxConcurrency: 5, // 限制并发请求数
    batchSize: 10 // 每次批量生成的向量数量
  });
  

3. 优化文本拆分策略 #

当前chunkSize=1200可能生成过多文本块，导致请求量激增：

• 适当增大chunkSize，减少文本块总数
• 调整chunkOverlap值，避免不必要的重复拆分

4. 检查索引状态 #

登录Pinecone控制台确认索引是否正常运行，有无被限流或暂停，查看监控数据中的请求成功率和速率情况。

内容的提问来源于stack exchange，提问作者cerebrum infotech