中华网科技

设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置: 科技 > 行业 >

应立法规范人机视觉技术滥用 打造更加稳健的人工智能系统

应立法规范人机视觉技术滥用 打造更加稳健的人工智能系统
2020-09-09 16:02:37 来源:中国新闻网

“人工智能的技术是中立的,应通过构建数字内容可信体系,制定相关法律,规范人机视觉技术滥用。”国防科技大学系统工程学院院长老松杨表示。

7日至9日,2020互联网岳麓峰会在长沙举行,来自互联网行业、投资界、学术界的百余名专家共同论道5G应用、大数据、人工智能等的新发展。

出席峰会的老松杨表示,近年来人工智能取得了举世瞩目的成就,从阿尔法狗完败人类顶级围棋高手,到美军的人工智能飞行员轻松击败美军王牌飞行员,再到各式各样的智能家居、智能安防出现,人工智能的应用已无处不在。

“应用人工智能的同时,不应忽略其安全性问题。”老松杨举例说,近年来网络出现的教皇抽桌布、奥巴马溜滑板车、希拉里换脸特朗普等视频,都是人工智能伪造的,这些伪造视频是人工智能新能力体现,也是其本身的脆弱性带来的安全性问题。

“人机视觉技术的滥用一般有深度伪造和对抗样本技术,前者是基于人工智能的视频和图像的合成技术,能以假乱真,该技术正在挑战‘眼见为实’。”老松杨说,深度伪造是让人看错,而对抗样本技术的目标是让机器“看错”,基本原理是在原始图像上叠加增量和噪声,让机器学习的模型出错。

“比如给一张熊猫图片加上噪音之后就变成了另外一个图像,在‘停车’的路标上加一些图像就变成了‘限速45’。”老松杨认为,这种滥用将带来严重的安全隐患。

眼见未必为实,该怎么办?老松杨表示,有造假就应打假,国家层面需投入一定的财力、精力、人力打假。虽然人机视觉技术带来了一定安全隐患,但利大于弊,不能因为有安全隐患就不发展技术。未来一方面要继续发展技术,打造更加稳健的人工智能系统,一方面要着手立法规范、约束技术滥用。

(王昊昊)

责任编辑:kj005

文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com
关键词:

为清北语文课注入“北大基因” :清北网校携手北大中文系 推动语文产品升级

2021-01-22 17:01:05为清北语文课注入“北大基因” :清北网校携手北大中文系 推动语文产品升级

我国天通一号03星成功发射升空!迎来2021年开门红

2021-01-20 09:24:01我国天通一号03星成功发射升空!迎来2021年开门红

科技创新加持,我国重型火箭发动机研制获新进展

2021-01-12 09:22:49科技创新加持,我国重型火箭发动机研制获新进展

感知行业风向,腾讯WeTest《2020移动游戏质量白皮书》正式发布

2021-01-07 11:01:31感知行业风向,腾讯WeTest《2020移动游戏质量白皮书》正式发布

我国首个“机场空域监视系统建设”团体标准发布

2021-01-06 09:05:10我国首个“机场空域监视系统建设”团体标准发布

酒泉卫星发射中心顺利完成2020年发射任务,积极备战中国空间站任务

2020-12-29 08:49:46酒泉卫星发射中心顺利完成2020年发射任务,积极备战中国空间站任务

相关新闻