当你的朋友打来视频电话，自然流露着熟悉的表情、声音、语调……这时，你会怀疑画面中就是你的朋友本人吗？你会认为眼见必定为实吗？

近日，福州一家科技公司的老板郭某，接到一位好友的微信视频邀请，对方说自己的朋友在外地竞标，需要430万元的保证金，想走他公司的账户过个账。郭老板在视频通话中确认了人和声音都是他的朋友之后便同意了。随后，对方就给郭老板发了一张银行卡转账成功的截图，说是钱已经转到郭老板的账户中。由于郭老板之前已经在视频通话中确认了朋友的身份，并未起疑，在没有确认钱到账与否的情况下，没有多想，直接将430万转到了好友的银行卡上。整个过程仅用短短的十分钟……

转账完成后，郭老板打电话跟朋友确认钱是否到账，才发现自己中了骗子的圈套！经过警方的调查取证分析，郭老板是被犯罪分子利用人工智能深度合成换脸、变声技术，实施了电信诈骗。幸运的是，接到郭某的报警后，福州、包头两地警银迅速启动止付机制，成功拦截了336.84万元，但仍有96.16万元被转移 ，目前仍在全力追缴中。

近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成和生成式AI技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。AI“换脸”、AI绘画、虚拟主播等为人所熟知的场景都使用了深度合成和生成式AI技术。

在深度合成和生成式AI技术向社会生活的各个领域渗透之时，AI安全的负面风险持续加剧且产生实质危害。随着深度合成和生成式AI技术的开放开源、深度合成和生成产品及服务的增多，此类内容制作的技术门槛越来越低，实现了技术的“平民化”。通过深度合成和生成式AI技术伪造音视频图像进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。

阻止AI滥用，防止AI作恶，也需发挥技术能力，用“魔法”打败“魔法”。作为国投集团数字/科技板块的重要企业、国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队（下称“专项团队”）。

专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备，如“AI-3300慧眼视频图像鉴真工作站”等。

AI-3300"慧眼"视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎，支持当前绝大部分深伪视频图像篡改方法的检测，检测精度处于国内领先水平。

该设备涵盖40余种视频图像真伪鉴定算法，近10种深伪鉴定算法，同时具有智能鉴定和专业鉴定两种鉴定模式，支持卷宗管理和三种鉴定文书生成，为司法鉴定人员提供一站式视频图像检验鉴定服务。它不仅对利用传统伪造手段篡改的影像能生成理想的鉴定效果，而且对利用深度伪造技术进行换脸、美颜、生成人脸、同图或异图复制篡改的影像具有十余种理想的鉴定效果。"慧眼"视频图像鉴真工作站可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。

未来，美亚柏科将聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照《中华人民共和国网络安全法》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法》（征求意见稿）的管理要求，针对深度合成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为打击利用人工智能的新兴涉网犯罪，提供有力的技术武器，为维护和保障人工智能的健康发展和规范应用贡献力量！

责任编辑：kj005