突破90分大关!百度预训练模型ERNIE登顶GLUE榜单 超过微软、谷歌

Winnie Lee

3443

在“让人工智能与人顺畅交流”的过程中,自然语言处理是很重要的一环。由于计算机语言与人类语言截然不同,有了这项技术,AI才能真正“听懂”人们所说的话。

近日,预训练模型界的“MVP”百度ERNIE,在自然语言处理领域权威数据集GLUE中荣登榜首,并以9个任务平均得分首次突破90大关刷新该榜单历史,超越微软MT-DNN-SMART、谷歌T5、ALBERT等一众国际顶级预训练模型的表现。XLNet、RoBERTa、T5、MT-DNN-SMART等模型平均分数分布在88-89分范围。

GLUE榜单是自然语言处理领域最权威的排行榜之一,由纽约大学、华盛顿大学、谷歌DeepMind等机构联合推出。

据此前报道,百度的可持续学习语义理解框架ERNIE 2.0持增量引入词汇(lexical)、语法 (syntactic) 、语义 (semantic) 等3个层次的自定义预训练任务,能够全面捕捉训练语料中的词法、语法、语义等潜在信息。

继1.0后,ERNIE英文任务方面取得全新突破,在共计16个中英文任务上超越了BERT和XLNet, 取得了SOTA效果。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐