科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

超越快手腾讯,度小满“轩辕”刷新预训练模型纪录

超越快手腾讯,度小满“轩辕”刷新预训练模型纪录
2021-12-16 19:39:55 来源:财讯网

自然语言处理是人工智能皇冠上的明珠,最近,度小满金融AI-Lab让人们摘得明珠的步伐又前进了一步。据中文语言理解领域的权威测评基准官网公布,度小满金融AI-Lab研发的轩辕(XuanYuan)预训练模型在CLUE1.1分类任务中“力压群雄”获得了排名第一的好成绩。距离人类“表现”仅差3.38分!

CLUE是中文语言理解领域最具权威性的测评基准之一涵盖了文本相似度、分类、阅读理解共10项语义分析和理解类子任务。其中,分类任务需要解决6个问题,例如传统图像分类,文本匹配,关键词分类等等,能够全方面衡量模型性能。CLUE榜单竞争激烈,几乎是业内兵家必争之地,例如快手搜索、优图实验室 & 腾讯云等等研究机构也都提交了比赛方案。我们位居榜首的“轩辕”,是基于Transformer架构的预训练语言模型,涵盖了金融、新闻、百科、网页等多领域大规模数据。因此,该模型“内含”的数据更全面,更丰富,面向领域更加广泛。传统预训练模型采取“训练-反馈”模式,度小满金融AI-Lab在训练“轩辕”的时候细化了这一过程,引入了任务相关的数据,融合不同粒度不同层级的交互信息,从而改进了传统训练模式。除了预训练,度小满金融AI-Lab在文本分类、信息抽取和技术资源等方向亦有布局。在战略上会有两点侧重:首先加强自身的数据生态建设,合法合规使用用户数据,解决数据孤岛;其次通过产学研相结合,布局前沿技术,落地金融场景业务。目前,度小满与北京大学光华管理学院成立了“金融科技联合实验室”,和西安交大成立了“西安交通大学-度小满金融人工智能联合研究中心”,并与中国科学院自动化研究所共建博士后工作站,共同开展人工智能及相关领域的博士后联合招收培养。我们一直相信,人工智能技术势必会变革金融领域的已有研究范式。因此,连接理论前沿研究与业界的技术应用研究,推动人工智能技术在金融产业中发挥更大价值,会是度小满一直的追求。


责任编辑:kj005

文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com
关键词:

互联网企业向“链”而生 拓展数字化发展空间

2021-12-15 08:50:02互联网企业向“链”而生 拓展数字化发展空间

陀螺科技品牌战略全面升级,定位元宇宙数字产业服务平台

2021-12-14 09:35:23陀螺科技品牌战略全面升级,定位元宇宙数字产业服务平台

我国已经逐渐迈入千兆时代 上海移动5G用户数突破1200万

2021-12-13 09:17:25我国已经逐渐迈入千兆时代 上海移动5G用户数突破1200万

双喜临门!比亚迪喜摘“全球储能与新能源影响力” 峰会两项大奖

2021-12-10 14:56:49双喜临门!比亚迪喜摘“全球储能与新能源影响力” 峰会两项大奖

长征系列运载火箭完成第400次发射!实践六号05组卫星成功发射升空

2021-12-10 10:01:20长征系列运载火箭完成第400次发射!实践六号05组卫星成功发射升空

微众银行微众企业+致敬“这个时代的创新者”:追梦赤子“芯”

2021-12-09 16:53:03微众银行微众企业+致敬“这个时代的创新者”:追梦赤子“芯”

相关新闻

最新资讯