如何在AWS EC2运行的Weaviate实例中添加text2vec-transformers模块

按以下步骤操作，无需新建实例，仅需修改配置后重启：

1. 停止当前Weaviate容器 #

在存放docker-compose.yml的目录下执行命令，停止并移除运行中的容器（不会删除持久化数据）：

docker-compose down

2. 修改docker-compose.yml配置 #

打开docker-compose.yml文件，更新Weaviate服务的配置，并按需添加transformers推理服务：

核心配置修改 #

在Weaviate服务的environment节点中，添加或更新模块启用配置：

services:
  weaviate:
    image: semitechnologies/weaviate:latest
    ports:
      - "8080:8080"
      - "50051:50051"
    environment:
      # 保留原有环境变量，新增/更新以下配置
      ENABLE_MODULES: text2vec-transformers  # 若已有其他模块，用逗号分隔，例如：text2vec-openai,text2vec-transformers
      DEFAULT_VECTORIZER_MODULE: text2vec-transformers
      TRANSFORMERS_INFERENCE_API: http://t2v-transformers:8080  # 指向推理服务地址
      # 其他原有配置（如PERSISTENCE_DATA_PATH等）保持不变
    depends_on:
      - t2v-transformers  # 添加依赖，确保推理服务优先启动

  # 新增transformers本地推理服务容器（按需添加）
  t2v-transformers:
    image: semitechnologies/transformers-inference:sentence-transformers-multi-qa-MiniLM-L6-cos-v1
    environment:
      ENABLE_CUDA: 0  # 若EC2实例带GPU，改为1启用硬件加速
    deploy:
      resources:
        limits:
          memory: 4Gi  # 根据EC2内存调整，最低建议2Gi

注意：如果使用远程transformers API服务，无需添加t2v-transformers容器，只需将TRANSFORMERS_INFERENCE_API设置为远程API地址即可。

3. 重启Weaviate容器 #

执行命令启动更新后的容器：

docker-compose up -d

4. 验证模块加载状态 #

通过API请求验证模块是否成功启用：

curl http://localhost:8080/v1/modules

返回结果中若包含text2vec-transformers相关信息，说明模块已成功添加。

内容的提问来源于stack exchange，提问作者tcotts