语义加权词嵌入均值计算技术问询

我明白你想要的是基于语义重要性而非词频或简单手动赋值的加权词嵌入平均，刚好可以给你分享两种实用的实现思路，覆盖手动指定和自动语义加权的场景：

一、手动指定语义权重的简单实现 #

如果你已经明确知道哪些词是核心语义载体（比如任务里的关键概念），可以直接给这些词分配更高的权重，再计算加权平均。这种方式简单直接，适合有明确语义优先级的场景。

举个例子：假设词列表是["apple", "fruit", "red", "sweet"]，其中"fruit"是核心语义词，我们给它分配0.4的权重，其余词各0.2。

代码示例（用numpy实现）：

import numpy as np

# 模拟已获取的词嵌入向量（实际中替换为你的真实向量）
word_vectors = {
    "apple": np.random.rand(100),
    "fruit": np.random.rand(100),
    "red": np.random.rand(100),
    "sweet": np.random.rand(100)
}

# 手动指定语义权重（核心词权重更高）
semantic_weights = {
    "apple": 0.2,
    "fruit": 0.4,
    "red": 0.2,
    "sweet": 0.2
}

# 计算语义加权平均向量
weighted_avg_vec = sum(
    semantic_weights[word] * vec 
    for word, vec in word_vectors.items()
) / sum(semantic_weights.values())

二、基于语义相似度的自动加权（更贴合"语义权重"需求） #

如果没有明确的核心词，想让系统自动根据语义关联分配权重（比如越接近整体语义核心的词权重越高），可以用以下两种方法：

方法1：以核心语义锚点为基准的加权 #

1. 先选定一个核心锚点词（比如你想要突出的语义方向，比如上面例子里的"fruit"）
2. 计算每个词与锚点词的语义相似度（常用余弦相似度）
3. 将相似度归一化后作为权重，再计算加权平均

代码示例：

from sklearn.metrics.pairwise import cosine_similarity
import numpy as np

# 词列表与对应嵌入向量矩阵
words = ["apple", "fruit", "red", "sweet"]
word_vec_matrix = np.array([
    np.random.rand(100),
    np.random.rand(100),
    np.random.rand(100),
    np.random.rand(100)
])

# 选择核心锚点词的索引（这里选"fruit"，对应索引1）
anchor_idx = 1
anchor_vec = word_vec_matrix[anchor_idx].reshape(1, -1)

# 计算每个词与锚点的余弦相似度
similarities = cosine_similarity(word_vec_matrix, anchor_vec).flatten()

# 归一化相似度得到权重（确保权重和为1）
semantic_weights = similarities / similarities.sum()

# 计算语义加权平均向量
weighted_avg_vec = np.dot(semantic_weights, word_vec_matrix)

方法2：基于全局语义关联的加权 #

如果没有明确锚点，想让所有词根据彼此的语义关联自动分配权重（比如和其他词语义更相近的词，权重更高）：

1. 计算所有词之间的余弦相似度矩阵
2. 每个词的权重 = 它与所有词的相似度之和（相似度越高，说明该词和整体语义关联越紧密）
3. 归一化权重后计算加权平均

代码示例：

from sklearn.metrics.pairwise import cosine_similarity
import numpy as np

words = ["apple", "fruit", "red", "sweet"]
word_vec_matrix = np.array([
    np.random.rand(100),
    np.random.rand(100),
    np.random.rand(100),
    np.random.rand(100)
])

# 计算词间语义相似度矩阵
sim_matrix = cosine_similarity(word_vec_matrix)

# 每个词的权重 = 与所有词的相似度之和
semantic_weights = sim_matrix.sum(axis=1)

# 归一化权重
semantic_weights = semantic_weights / semantic_weights.sum()

# 计算语义加权平均向量
weighted_avg_vec = np.dot(semantic_weights, word_vec_matrix)

三、关键注意事项 #

• 权重归一化：无论用哪种方法，都要确保权重之和为1，这样加权后的向量尺度和原词嵌入保持一致，避免数值偏差。
• 词嵌入选择：尽量选用贴合你任务场景的预训练嵌入（比如领域专属的Word2Vec、GloVe，或者BERT类的上下文嵌入），能提升语义加权的准确性。
• 噪声过滤：如果词列表中有和核心语义无关的词，建议先过滤掉，或者给极低权重，避免干扰最终结果。

内容的提问来源于stack exchange，提问作者mabergerx