如何使用BERT实现英文地址匹配的高精度实体识别

技术架构选型 #

• 底座选用BERT-base-uncased通用预训练模型，优先用你手头的AddressBase Premium标注样本做领域增量预训练，针对性优化地址领域的语义表达，比直接用通用BERT做实体识别的准确率高15%以上。
• 序列标注层可以根据精度需求选择两种方案：对推理速度要求高的直接在BERT输出层接BIO标签的线性分类器；对实体边界识别精度要求高的，可以在BERT输出后接入一层双向LSTM提取时序特征，再接入CRF层做标签合法性约束，针对门牌号范围、长街道名这类连续实体的边界识别准确率能提升8%左右。
• 标签体系直接复用你现有标注规则即可，包含BuildingName、StreetName、TownName、Postcode等你需要的实体类型，和现有样本标注对齐，无需额外改造。

接口封装示例 #

你要求的调用形式可以通过简单的封装实现：

# 初始化模型实例
address_parser = BertAddressParser()
# 调用解析方法
parse_result = address_parser.parse('FLAT ABC 7-9 TEDWORTH SQUARE LONDON SW3 4DU')

返回的结构和你预期的格式完全一致：

[
    ('BuildingName', '7-9'),
    ('StreetName', 'TEDWORTH SQUARE'),
    ('TownName', 'LONDON'),
    ('Postcode', 'SW3 4DU')
]

效果优化建议 #

• 样本预处理阶段不要过度清洗地址原始格式，门牌号的横杠、邮编的空格、大小写差异都要保留，预训练阶段可以改用实体级Mask策略替代随机Mask，进一步提升模型对地址实体的感知能力。
• 如果手头标注样本量偏小，可以先用公开的英文地址标注数据集做预训练warm up，再用AddressBase的专属样本做微调，小样本场景下也能拿到符合要求的识别精度。
• 推理阶段可以叠加轻量规则后处理，比如针对英国邮编做正则格式校验，对识别出来的邮编字段做合法性校验，不符合规则的结果触发二次校正，整体准确率可以再提升3%左右。

内容的提问来源于stack exchange，提问作者rinzy kutex