Weaviate多语言向量查询结果异常问题咨询

问题现象 #

使用Weaviate搭配semitechnologies/transformers-inference:sentence-transformers-paraphrase-multilingual-mpnet-base-v2处理德语文本时，出现检索结果相关性倒置：查询词Nachtportier（酒店夜间接待员）对应的匹配条目，其certainty得分反而低于完全无关的农业信托经理条目，且实际应用中此类异常频发。

测试代码：

import weaviate from 'weaviate-ts-client';

const client = weaviate.client({
    scheme: 'http',
    host: 'localhost:8080',
});

const schemaConfig = {
    class: 'Person',
    properties: [
        {
            name: 'name',
            dataType: ['string'],
        }
    ]
};
try {
    await client.schema.classDeleter().withClassName('Person').do();
} catch (e) {
    console.log(e)
}

await client.schema
    .classCreator()
    .withClass(schemaConfig)
    .do();

await client.data.creator()
  .withClassName('Person')
  .withProperties({
      name:"Nachtportier: (ca. 50%)" 
  })
  .do();

await client.data.creator()
  .withClassName('Person')
  .withProperties({
      name:"Mandatsleiter Agrotreuhand z.B. Treuhänder mit eidg. Fachausweis oder gleichwertiger Ausbildung"
  })
  .do();

const query="Nachtportier"

const resImage = await client.graphql.get()
  .withClassName('Person')
  .withFields(['name _additional{distance certainty id}'])
  .withNearText({concepts: [query]})
  .do();

console.log(resImage.data.Get.Person)

返回结果：

[
  {
    _additional: {
      certainty: 0.8617309927940369,
      distance: 0.276538,
      id: '20b34dc7-d7d7-4d00-8c1d-93022960f224'
    },
    name: 'Mandatsleiter Agrotreuhand z.B. Treuhänder mit eidg. Fachausweis oder gleichwertiger Ausbildung'
  },
  {
    _additional: {
      certainty: 0.7965770363807678,
      distance: 0.40684593,
      id: '0b072dab-2c93-4189-b713-101fec7248b3'
    },
    name: 'Nachtportier: (ca. 50%)'
  }
]

核心原因 #

1. Schema配置缺失：当前未指定向量器的编码目标字段，Weaviate的默认编码逻辑可能未聚焦name字段，导致编码结果偏离预期。
2. 文本长度偏差：paraphrase-multilingual-mpnet-base-v2对长文本的编码会覆盖更多语义维度，短文本（如Nachtportier: (ca. 50%)）的向量特征密度低，小样本场景下易被长文本的泛语义匹配覆盖。
3. 小样本数据干扰：仅2条测试数据时，向量空间分布极不均匀，相似性计算容易出现偶然偏差，无法反映真实性能。

解决方案 #

1. 修正Schema，明确向量编码规则 #

在Schema中指定向量器，并配置仅对name字段编码：

const schemaConfig = {
    class: 'Person',
    vectorizer: 'text2vec-transformers',
    properties: [
        {
            name: 'name',
            dataType: ['string'],
            moduleConfig: {
                'text2vec-transformers': {
                    vectorizePropertyName: false
                }
            }
        }
    ]
};

2. 优化文本输入 #

• 为短文本补充上下文，例如将Nachtportier: (ca. 50%)扩展为Nachtportier im Hotel (ca. 50%)，提升向量特征辨识度。
• 尽量平衡文本长度差异，减少长文本的泛匹配优势。

3. 增加测试样本量 #

添加至少10条以上的德语文本条目，让向量空间分布更合理，避免小样本带来的偶然性偏差。

4. 调整检索参数 #

查询时可设置距离阈值过滤无关结果，或通过withLimit(1)优先获取最相关条目，示例：

const resImage = await client.graphql.get()
  .withClassName('Person')
  .withFields(['name _additional{distance certainty id}'])
  .withNearText({concepts: [query], distance: 0.3})
  .withLimit(1)
  .do();

结论 #

并非技术不成熟，而是使用方式存在配置缺失和场景局限性。通过修正Schema配置、优化文本输入和增加样本量，可有效解决相关性倒置问题。

内容的提问来源于stack exchange，提问作者user2741831