视频电话也不能信！AI换脸乱象丛生，有人轻信“好友”被骗数万元丨《热线12》

随着AI人工智能技术的发展，AI换脸技术因制作成本和门槛低，已经成为一种颇受黑灰产欢迎的新型网络犯罪工具。近日，记者调查发现，在一些网络平台上，有商家售卖将动态视频换脸，以及将静态照片活化的软件和教程。

记者以AI换脸为关键词，在一些视频网站进行搜索，发现大量相关视频，且人气很高，在手机应用商店也能找到很多换脸软件，充值17元成为会员后，上传一张照片就能将视频中的脸换成自己的。

此外，网上还有网友发布AI换脸开放源代码软件的使用教程，还有人售卖自己独立开发的换脸软件，一位卖家向记者介绍，他开发的软件售价2000多元，软件全程自动操作，只需4步就可以完成换脸，相似度可达到97%。

在某电商平台，还有卖家出售照片动态化的服务。通过软件制作，静态照片中的人就可以执行眨眼、点头、摇头、张嘴等操作，记者通过某社交群组联系上一位提供人脸识别软件的卖家，他介绍，人脸动作制作软件和教程售价为1299元，经过试验，验证通过率可达到90%，这位卖家发来的演示视频显示，通过软件，将静态视频处理为动态视频后，点开手机上的识别软件即可进行人脸验证操作。

记者了解到，AI换脸的逻辑是用人工智能的方法简化了视频特效的制作成本，从术语上来说，这类技术通常被称作深度伪造，也叫深度合成。这些软件和教程有的是出于技术研究目的，有的是用来消遣娱乐和做商业广告，还有的则是为了违法犯罪。

今年2月份，浙江温州的陈先生在微信上收到了一个好友请求，对方声称是他在国外的朋友“阿诚”，这是她的新微信，简单寒暄过后，“阿诚”说最近自己准备回国，但在购买机票的过程中遇到了难题，希望陈先生帮忙支付机票钱，自己稍后会把钱打给他。对方用新号来找陈先生，还涉及钱的问题，陈先生本来是不信的，但“阿诚”打来的视频电话确实是她本人，这就让陈先生不得不信。没过一会儿，“阿诚”说国外网络很卡，挂断了视频，随后发来转账截图，表示已将钱转进陈先生的银行卡，24小时之内就能到账。

陈先生看见电话那头确实是“阿诚”本人，又是多年的朋友，就在她的指导下加了航空公司经理的微信，转账了49000多元钱。

然而，陈先生后来又去找朋友核实，才发现自己上当了。经过警方核实，这是一起利用AI换脸技术进行诈骗的案件。

除了换脸诈骗之外，还有不法分子利用AI技术伪造人脸动态视频，2021年4月份，安徽合肥警方就打掉一个相关的犯罪团伙，据了解，犯罪嫌疑人将被害人静态照片制作为人脸动态视频。由于效果逼真，这些视频可以欺骗审核人员，通过手机卡注册中的人脸识别环节。而这些卡被注册之后，大多数都流入赌博、诈骗等黑灰产业链当中。

一位提供AI换脸相关服务的卖家，在商品介绍中表示，只负责制作视频，不承担买家行为造成的法律责任和经济损失，对此，专家表示，所谓的免责声明，不必然具有免除责任的法律效力，而是需要结合具体的客观行为和主观意图作出判断。

2022年1月份，国家网信办公布的相关规定指出，深度合成服务提供者若提供人脸、人声等生物识别信息的显著编辑功能时，需取得被编辑的个人主体同意。此外，公安机关提醒，涉及钱款时，首先要多方核实，防止陷入AI换脸骗局。