谷歌开源首个「方言」数据集:让机器翻译更地道
新智元报道
新智元报道
【新智元导读】数据集包含葡萄牙语和汉语普通话。
虽然全中国的人都在说汉语,但具体到各地的方言却略有不同,比如同样是小巷的意思,「胡同」一开口就知道是老北京了,而到了南方则叫「弄」。
这种细微的地域性差异反应在「机器翻译」任务上,就会显得翻译结果不够「地道」,而目前几乎所有的机器翻译系统都没有考虑地区性语言(即方言)的影响。
而在世界范围内也存在这种现象,比如巴西的官方语言是葡萄牙语,跟欧洲的葡萄牙语之间也有一些地域性差异。
最近谷歌发布了一个全新的,可用于Few-shot Region-aware机器翻译的数据集和评估基准FRMT,主要解决方言翻译问题,论文发表在TACL(Transactions of the Association for Computational Linguistics)上。
Few-Shot泛化
Few-Shot泛化
大多数现代机器翻译系统都经过数百万或数十亿翻译样本的训练,输入数据包括英语输入句及其相应的葡萄牙语翻译。
然而,绝大多数可用的训练数据并没有说明翻译的地区差异。
鉴于这种数据稀缺性,研究人员将 FRMT 定位为few-shot翻译的基准,当给定每种语言不超过100个带标签的例子时,测量机器翻译模型识别出指定区域语言变体的能力。
机器翻译模型需要根据少量标记过的样本(即范例)中显示的语言模式,来识别出其他未标记训练样本中的相似模式。模型需要通过这种方式进行泛化,从而生成模型中没有明确指定区域的「地道」翻译结果。
比如输入句子:The bus arrived,再给定几个巴西葡萄牙语的例子,模型应该能翻译出「O ônibus chegou」;如果给的样例是欧洲葡萄牙语,模型的翻译结果应该变为「O autocarro chegou」。
机器翻译的few-shot方法是很有研究价值的,能够以一种非常简单的方式来对现有系统中增加对额外区域语言的支持能力。
虽然谷歌目前发表的工作是针对两种语言的区域变体,但研究人员预测,一个好的方法将很容易适用于其他语言和区域的变体。
从原理上来说,这些方法也适用于其他语言差异现象,例如礼节和风格等。
数据收集
数据收集
FRMT 数据集包括部分英文维基百科文章,来源于 Wiki40b 数据集,这些文章已经由付费的专业翻译人员翻译成不同的地区性的葡萄牙语和汉语。
为了突出关键区域感知的翻译难题,研究人员使用了三个内容桶(content buckets)来设计数据集:
1. 词汇 Lixical
词汇桶主要关注不同地区在词汇选择上的差异,例如当把一个带有单词「bus」的句子分别翻译成巴西语和欧洲葡萄牙语时,模型需要能够识别出「ônibus」与「autocarro」的区别。
研究人员根据博客和教育网站手动收集了20-30个具有地区特色的翻译术语,并根据来自每个地区的母语志愿者的反馈对翻译进行过滤和审核。
根据得到的英语术语列表,从相关的英语维基百科文章(例如,bus)中提取出100个句子。再对普通话,重复上述相同的的收集过程。
系统性能
系统性能
为了验证为 FRMT 数据集收集的翻译能够捕获特定区域的现象,研究人员对数据质量进行了人工评估。
来自每个相应区域的专家标注员使用多维质量度量(MQM)框架来识别和分类翻译中的错误:该框架包括一个分类加权方案,将识别出的错误转换成一个单一的分数,粗略地表示每句话的主要错误数量,即数值越小表示翻译越好。
对于每个地区,研究人员要求 MQM 评分者对来自他们所在地区的翻译和来自他们语言的其他地区的翻译进行评分。
例如,巴西的葡萄牙语评分员同时对巴西和欧洲的葡萄牙语译本都进行了评分,两个分数之间的差异表明语言现象的普遍性,即该语言变体是否可接受,而并非是另一种语言。
实验结果发现,在葡萄牙语和汉语中,评分者平均比匹配的译文中每个句子多发现大约两个主要错误,表明FRMT数据集确实能够捕获特定区域的语言现象。
虽然人工评估是确保模型质量的最佳方法,但其往往是缓慢且昂贵的。
因此,研究人员希望找到一个现成的自动度量指标,可以用来评估模型在基准中的性能,研究人员考虑选择使用 chrF,BLEU 和 BLEURT.
根据 MQM 评估者对几个基线模型翻译结果的评分,可以发现 BLEURT 与人类判断具有最好的相关性,并且该相关性的强度(0.65 Pearson 相关系数,ρ)与标注者间一致性(0.70组内相关性)相当。
系统性能
系统性能
文中评估了一些最近发布的、具有few-shot控制能力的模型。
基于 MQM 的人类评估,基线方法都表现出一定的localize葡萄牙语输出的能力,但是对于中文普通话,大多没有利用目标地区的知识来生成优秀的当地翻译结果。
在评估的基准中,谷歌的语言模型 PaLM 模型的性能最佳,为了使用 PaLM 生成针对区域的翻译,首先将一个有指导意义的提示输入模型,然后从中生成文本以填充空白。
PaLM 仅通过一个例子就获得了很好的结果,在葡萄牙语方面,当增加到10个例子时,质量略有提高,考虑到 PaLM 是在无监督的情况下进行训练的,这种表现已经非常好了。
研究结果还表明,像 PaLM 这样的语言模型可能特别擅长记忆流畅翻译所需的特定区域的词汇选择。
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
随时掌握互联网精彩
- 1 习近平主席的G20峰会时间 7920781
- 2 孙颖莎王艺迪不敌日本削球组合 7902459
- 3 高三女生酒后被强奸致死?检方回应 7805662
- 4 二十国集团里约峰会将会卓有成效 7740329
- 5 国乒男队多场比赛遭遇一轮游 7697538
- 6 一个金镯子省出1200元 金价真跌了 7519809
- 7 胖东来:员工不许靠父母买房买车 7496580
- 8 俄导弹击中乌水电站大坝 7378764
- 9 马夫儿子回应父亲猥亵女驴友 7237177
- 10 智慧乌镇点亮数字经济新未来 7100851