当前位置:科技 > 业界 > 正文

好奇!人工智能如何对抗虚假信息?

2017-09-28 13:56:26       来源:中央电视台

“肉松面包上的肉松是棉花做的”、“‘刘明炜’同学的高考准考证丟了”、“虾头里面有两条白线,其实是白色寄生虫”……日前,有媒体盘点了“2017上半年十大谣言”,以上内容均被证伪。与此同时,北京相关部门也联合辟谣平台共同发布了6月科学流言榜,“霍金警告人类不要登月,‘月球背面有外星人’”、“注胶杨梅”等纷纷上榜。

好奇!人工智能如何对抗虚假信息?

随着互联网社交媒体的快速发展,公共领域的虚假信息如何被甄别和消除,已经成为一个学界和业界共同关注的话题。

由中国人民大学媒体融合实验室和今日头条联合发起的“公共领域虚假信息甄别与控制研究”项目于近日召开开题研讨会。该项目将通过对虚假信息进行基础性研究、相关伦理及法律问题研究及虚假信息甄别与管控研究,寻求有效的解决方法。

由于目前互联网传播的快速发展和网民参与度高涨等因素,互联网管控和引导工作出现新的挑战,甚至在一些时候出现管控机制缺失现象凸显等情况,因此该课题一经启动便受到了广泛关注。来自中宣部、中央网信办、国家新闻广电总局、北京市网信办、浙报集团等部门和媒体的领导和专家参加了项目开题会。大家一致认为,“公共领域虚假信息甄别与控制研究”,对于网络信用体系的建设具有重大意义;希望这项研究能够为甄别控制虚假信息提供有效的方法论,结合机器算法和用户反馈,提升虚假信息识别的效率。

项目负责人、中国人民大学教授宋建武认为,基于海量信息聚合并以算法驱动精准分发的个性化资讯服务,推动了信息传播方式的显著进步。虽然算法技术有局限,但不可否认,技术不仅鼓励了更多的内容生产,还提供了更多内容安全管控的手段。此次人民大学新闻学院与今日头条联合展开学术研究项目,一方面将资讯平台上海量的数据和样本发挥作用,给学术研究提供数据基础;另一方面,研究结果将为企业在生产实践中提供理论依据,力争探索出一条行之有效的净化网络内容环境之路,为甄别控制虚假信息提供更多解决方案。

据今日头条高级副总裁赵添介绍,今日头条已经于2017年5月建立“谣言库”,截至目前汇总7522个谣言事件,14981个谣言标题。对于命中谣言库关键词规则的文章,直接进入“谣言队列”作打压处理,准确率在80%左右。对机器模型暂时难以识别的内容,由人工进行判断,并借助辟谣平台和用户反馈识别渠道,对内容、账号进行多层次的惩罚与打压。今日头条将努力把政府和社会的外部监管与平台的内部管理有机结合,实现虚假信息在公共领域发布及扩散之前和过程中,对其进行有效的甄别和管控。

文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com