当前，人工智能技术正被广泛应用于多场景，包括虚拟货币支付、人证合一认证、解锁智能终端等，这些黑科技在快速推进社会发展的同时，数据隐私、技术滥用等伴生安全问题也正给社会公共治理带来严峻挑战，其中围绕“深度伪造”的伦理和法律争议一直是公众高度关注的热点话题之一。

如何依托技术支撑，在科技便利和社会安全之间找到平衡点，并有效保障技术向善，成为当下急需解决的问题。

“深度伪造”存风险

2019年国内红极一时的换脸软件“ZAO”就是公众最为熟知的AI应用，用户只需上传一张照片，就能秒变“戏精”，甚至还能与偶像同台飙戏，效果极其逼真。不久前，短视频领域出现的“蚂蚁呀嘿”热潮，其基础也是深度伪造技术。

“深度伪造”通俗来讲，就是利用深度学习算法实现音频和视频的模拟和伪造，包括语音模拟、换脸、表情操纵等。凭借极强的娱乐性与传播性，“深度伪造”技术曾一路走红。

但是，在感受“深度伪造”技术带来的科技感时，其背后的危害却不容小觑。

当前，“深度伪造”的技术门槛正大幅降低，网络上充斥着大量伪造教程和开源可用的计算机程序。即便是不具备专业算法能力的普通用户，也可以在很短时间内轻松上手。尤其依托深度学习算法特性，在海量图像和视频数据的驱动下，深度合成技术不断演进迭代，仿真精度不断得到提升。这也意味着，如果不对“深度伪造”这一技术进行及时规制，将对经济社会发展带来严重的潜在威胁。

此外，公众财产安全也将受到威胁。当下一些不法分子可以利用智能终端的安全漏洞劫持手机识别摄像头，利用照片活化、表情操纵等深度伪造技术冒充机主，进而对机主的微信好友实行转账诈骗。同样的，电信诈骗中也有类似利用“语音伪造”技术的案例。

不仅如此，“深度伪造”还会对社会安全和国家安全造成威胁。网络内容监管的复杂性给依托“深度伪造”技术捏造虚假新闻得以散布的空间。在病毒式传播的深度伪造的背后，可能蕴藏着操纵社会舆论、激化社会矛盾与扰乱正常社会经济秩序等系统性的危害，严重影响公众治安和网络安全。

“在公安机关、司法机关的图像鉴别工作中，深度伪造技术的出现将导致举证工作存在风险。”北京瑞莱智慧科技有限公司首席执行官田天认为，“深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器，抹黑政治人物、伪造政治制度和破坏国家间关系，甚至在未来军事战场上损毁特定军事或情报行动。在这种背景下，国内外政府高度重视，都出台了相关的监管制度。”

可见，“深度伪造”等各类安全问题亟待解决。为此，北京瑞莱智慧科技有限公司于7月9日，在2021WAIC世界人工智能大会上发布了基于第三代人工智能的DeepReal深度伪造内容检测平台，旨在依托工业级检测性能，快速、精准地对多种格式与质量的图像进行真伪鉴别，为遏制和防范“深度伪造”技术的大规模滥用提供有效技术支撑。

守住技术应用底线

北京瑞莱智慧科技有限公司副总裁唐家渝认为，“深度伪造”技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。面对深度伪造技术检测工作难的困局，唐家渝称，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒，检测准确度与检测效率达到业内顶尖水平。

中科院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹教授曾提出“第三代人工智能”的概念，也就是安全、可靠、可信和可扩展的人工智能。安全性已经成为下一阶段人工智能发展必须的基础。深度伪造是目前人工智能应用不安全的典型问题，DeepReal平台的提出是一项很好的技术应对。

清华大学教授朱军则表示，实网环境中的伪造视频不断变化，需要有强对抗的手段加以遏制，最好的方法就是用AI来检测恶意AI。在检测效果上，不仅要支持高准确率与高效率，还需要具有可解释性，让检测结果可靠、可信服，此外要能够快速即时应对新型的深度伪造类型，DeepReal平台通过利用贝叶斯深度学习方法和小样本增量学习的方法很好的满足了这两点。

事实上，DeepReal平台在防范深度伪造技术上已经小有成就。例如，瑞莱智慧RealAI团队在国际安全极客大赛 GeekPwn 2020 首届 CAAD 虚假人脸 AI 识别大赛上，以绝对比分优势夺得冠军；在网信办与公安部共同指导的第二届“中国人工智能·多媒体信息识别技术大赛”中，斩获“创新之星”奖以及深伪检测竞赛A类奖。此外，DeepReal在深伪相关领域也已发表顶级会议和期刊论文数十余篇。

下一步，瑞莱智慧RealAI还在持续发力，并且与工信部、公安部等监管部门、科研机构、实战部门展开合作，共建深度伪造治理生态。

唐家渝表示，开展主动技术检测评估工作是防范深度伪造技术作恶的必由之路。未来，DeepReal检测平台将在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等实际应用场景中发挥强大作用，瑞莱智慧RealAI也将持续迭代技术、打磨产品，和相关单位一起，全力以赴，确保在这场深度伪造的“攻防战”中保持始终立于不败之地。

免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。

责任编辑：kj005