如何使用Bi-gram计算短语的出现概率?
用二元语法(Bi-gram)计算短语出现概率的实现
核心步骤
- 统计二元语法出现次数:调用
count()方法,统计目标二元组在所有二元语法集合中的出现频次 - 计算出现概率:将统计得到的频次除以文本中所有二元语法的总数量,即可得到该短语的联合概率
P(word1 word2)
代码实现(对应文件filename.txt)
# 统计该二元语法出现的次数 bg_count = bigrams.count(('word1', 'word2')) # 文本中该二元语法的出现概率 P(word1 word2) bg_probability = bg_count / number_of_bigrams
内容的提问来源于stack exchange,提问作者Nabila Eusha
相关产品推荐
相关产品推荐

