由 dawei 两会进行时,《个人信息保护法》再次被热议。随着数字化生活的逐步深入,个人信息保护备受关注,尤其是“刷脸”等认证已经成为人们习以为常的动作,不过,一旦信息被过度采集,容易引发信息泄露的风险。
最近,短视频领域出现了一款爆火的“蚂蚁呀嘿”。不论是在微博、朋友圈,还是抖音、快手等短视频平台,都能听到这个魔性的音乐。
这类视频由Avatarify变脸软件制作,特效的玩法也非常简单,只要上传一张照片,照片上的人便可扭脖子瞪眼地唱上一首“蚂蚁呀嘿”,只要找到了脸,就连蒙娜丽莎也能蹦跶起来。
其实“换脸”的技术并不是什么新鲜事儿,在去年播放的电视剧《胜算》里,便使用AI技术将女主角韩彩英的脸换成苏青,还真别说,通过人眼完全看不出换脸痕迹,相比之前通过换脸完成的一些电视剧,效果已经达到以假乱真的地步。
随着AI换脸技术的发展,借助AI换脸技术完成一部电影或电视剧已经成为比较常用的一个手法,甚至想看自己主演的电视剧,当一回大侠也是轻而易举。
不可否认的是,AI换脸技术确实给用户带来不少惊喜,也能为许多行业的发展提供技术上的支持。但是,人们更担心它会被用在“灰色产业”,成为违法犯罪的帮凶。
AI换脸技术的潜在问题
AI换脸低成本和易操作的特性,使得大规模互联网用户参与成为可能,很容易滋生黑产和诈骗。国内有大量活跃的“AI换脸”QQ群、论坛、网商,不仅交流技术、售卖教程,甚至出现售卖定制视频和成品视频。在个人财产安全、市场操纵、舆情安全、国家安全等领域,都存在极大的安全风险。
AI换脸检测技术
当前,在视频图像伪造检测和鉴定方面仅仅依靠传统真伪检测和鉴定方法难以支撑多样化的伪造手段。特别是面对利用AI进行图像视频伪造问题已趋严重的情况下,人脸生成、人脸属性修改、人脸替换、表情操纵等深度伪造手段的运用,使得深伪图像和视频更加难以鉴别。
美亚柏科AI研发团队,通过对不同伪造方法的追踪研究,寻找伪造的特征差异,设计了多种针对深伪合成图像视频的检测和鉴定算法模型,不同的网络模型用于提取伪造的差异性特征。然后通过集成学习相关技术将多个模型进行融合,从而获得更加准确和稳定的检测鉴定结果。同时,模型训练过程中引入对抗攻击技术,进一步提升了模型的鲁棒性和抗攻击能力。
*名词解释:鲁棒性,Robust的音译,它也是在异常和危险情况下系统生存的能力。
针对深伪视频的检测流程:首先将视频解码,间隔抽帧以提升整体的检测效率;然后对抽出的帧图像做人脸检测,获取人脸区域的图像;将人脸图像送入检测网络判别,判断人脸图像是否为伪造以及伪造的置信度;将每一帧的判断结果送入到决策模型,通过决策模型给出最终是否为伪造的最终结论。
电视剧《胜算》中所采用的是人脸替换技术,而Avatarify软件使用的表情操纵技术,两者采用了完全不同的技术路线,但在电视剧《胜算》以及使用Avatarify伪造的视频中,通过美亚柏科的AI换脸检测技术都准确地检测出篡改位置,说明了算法模型具有很强的泛化能力。
深伪图像及视频的检测利器
不仅仅可以针对“AI换脸”进行检测,美亚柏科研究的一系列深伪检测技术在多种深伪图像和视频检测和鉴定上都达到了国内领先水平,基于此推出的AI-1300神盾视频图像鉴真工作站已成为视频图像伪造检测的利器。
AI-1300神盾视频图像鉴真工作站是一款依托于影像检验鉴定工作规范,运用人工智能影像鉴定技术对影像真实性和原始性进行检验鉴定的专业设备,该产品不仅对使用传统伪造手段进行篡改的影像具有准确的鉴定效果,而且对于采用AI深度伪造手段进行换脸、美颜、生成人脸、同图或异图篡改的影像更具备10余种对应的AI检验鉴定功能可供选择,可为公安、司法行业及相关领域的刑事技术人员和影像鉴定人员提供一站式影像真伪检验鉴定的解决方案。
AI技术是把双刃剑,它给我们的生活带来乐趣和便利的同时,也伴随着“虚假信息”所带来的危害与风险,一旦被不法之徒利用就可能成为潘多拉魔盒。研发AI-1300神盾视频图像鉴真工作站的初衷,便是想以AI治理AI,鉴别虚假合成的图像和视频信息,营造一个真实安全的网络空间。美亚柏科将继续发挥自身的技术优势,为协助执法部门打击犯罪持续贡献自己的智慧和力量。
目前,AI换脸难以肉眼区分。在此,美亚柏科也呼吁大家共同防范利用AI人工智能等新型手段的诈骗,牢记以下几点：
1、多重验证,确认身份,比如在涉及钱款时,尽量通过电话询问具体信息,确认对方是否为本人;
2、保护信息,避免诱惑。对于不明平台发来的广告、中奖、交友等链接提高警惕,不随意填写个人信息,以免被骗子“精准围猎”;
3、相互提示,共同预防做好宣传防范工作。尤其是提醒老年人在接到电话、短信时,要放下电话,再次拨打家人电话确认,不要贸然转账。
转载请注明出处。