Transformer翻译模型训练性能低、torch_ipex报错及预训练数据集求助
Ipex报错解决方案
出现该undefined symbol报错的核心原因是torch_ipex版本与本地已安装的PyTorch版本不兼容,你安装的1.9.0版本torch_ipex仅适配PyTorch 1.9.0,可按以下步骤修复:
- 先卸载现有不匹配的依赖:
pip uninstall torch torch_ipex -y - 安装和ipex 1.9.0匹配的PyTorch 1.9.0版本
- 重新执行ipex 1.9.0的安装命令
要调用Intel核显进行训练加速,还需要先安装对应Intel GPU驱动,同时训练时将batch size调低至1-2,开启梯度累计功能,可避免内存不足进程被杀的问题。
翻译效果优化与数据集推荐
你当前用T5翻译效果不好,首先要确认推理时输入文本前添加了对应任务前缀,英法翻译需要在输入前加上translate English to French: 标识,添加后翻译准确率会有明显提升。如果要更换模型,可以选择专门面向多语言翻译训练的预训练模型,翻译效果优于通用T5模型。
常用的高质量多语言翻译平行数据集包括OPUS-100、UNPC多语言平行语料、WMT历年翻译竞赛公开数据集,搜索对应名称即可获取公开下载渠道。训练时加入标签平滑损失策略,也能减少缺词漏词的问题,提升翻译流畅度。
内容的提问来源于stack exchange,提问作者Jourdelune
相关产品推荐
相关产品推荐

