中华网科技

设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置: 科技 > 行业 >

应立法规范人机视觉技术滥用 打造更加稳健的人工智能系统

应立法规范人机视觉技术滥用 打造更加稳健的人工智能系统
2020-09-09 16:02:37 来源:中国新闻网

“人工智能的技术是中立的,应通过构建数字内容可信体系,制定相关法律,规范人机视觉技术滥用。”国防科技大学系统工程学院院长老松杨表示。

7日至9日,2020互联网岳麓峰会在长沙举行,来自互联网行业、投资界、学术界的百余名专家共同论道5G应用、大数据、人工智能等的新发展。

出席峰会的老松杨表示,近年来人工智能取得了举世瞩目的成就,从阿尔法狗完败人类顶级围棋高手,到美军的人工智能飞行员轻松击败美军王牌飞行员,再到各式各样的智能家居、智能安防出现,人工智能的应用已无处不在。

“应用人工智能的同时,不应忽略其安全性问题。”老松杨举例说,近年来网络出现的教皇抽桌布、奥巴马溜滑板车、希拉里换脸特朗普等视频,都是人工智能伪造的,这些伪造视频是人工智能新能力体现,也是其本身的脆弱性带来的安全性问题。

“人机视觉技术的滥用一般有深度伪造和对抗样本技术,前者是基于人工智能的视频和图像的合成技术,能以假乱真,该技术正在挑战‘眼见为实’。”老松杨说,深度伪造是让人看错,而对抗样本技术的目标是让机器“看错”,基本原理是在原始图像上叠加增量和噪声,让机器学习的模型出错。

“比如给一张熊猫图片加上噪音之后就变成了另外一个图像,在‘停车’的路标上加一些图像就变成了‘限速45’。”老松杨认为,这种滥用将带来严重的安全隐患。

眼见未必为实,该怎么办?老松杨表示,有造假就应打假,国家层面需投入一定的财力、精力、人力打假。虽然人机视觉技术带来了一定安全隐患,但利大于弊,不能因为有安全隐患就不发展技术。未来一方面要继续发展技术,打造更加稳健的人工智能系统,一方面要着手立法规范、约束技术滥用。

(王昊昊)

责任编辑:kj005

文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com
关键词:

天通一号02星发射圆满成功,将服务亚太地区移动通信

2020-11-13 09:04:14天通一号02星发射圆满成功,将服务亚太地区移动通信

“奋斗者”号载人潜水器成功坐底10909米,创下最深纪录

2020-11-11 11:35:37“奋斗者”号载人潜水器成功坐底10909米,创下最深纪录

中国传媒大学新媒体研究院发布《2019-2020中国企业视频媒体中心行业发展》白皮书

2020-11-11 09:01:26中国传媒大学新媒体研究院发布《2019-2020中国企业视频媒体中心行业发展》白皮书

水星年内最后一次大距,将在11月11日上演

2020-11-10 14:25:01水星年内最后一次大距,将在11月11日上演

中国天眼累计发现脉冲星数量超过240颗

2020-11-05 08:20:35中国天眼累计发现脉冲星数量超过240颗

江苏移动全省5G基站超3.4万个,5G终端用户数近560万

2020-11-03 10:09:56江苏移动全省5G基站超3.4万个,5G终端用户数近560万

相关新闻