法治在线丨AI换脸可“以假乱真” 你我该如何防范

俗话说“眼见为实”，以假乱真但随着AI换脸技术升级和应用的法治范普及，当前利用AI换脸技术实施犯罪的线丨凤台县刘集乡新闻网现象也愈演愈烈。有人利用AI换脸冒充受害人的换脸何防亲朋好友实施诈骗，有人利用AI换脸绕过人脸识别系统侵入他人账户。可该

不法人员利用AI换脸实施犯罪为何能屡屡得手？以假乱真其中的套路有哪些？当眼见不再为实，普通人又该如何防范呢？法治范一起来关注这个话题。

“AI换脸”实施犯罪

套路有哪些

记者体验

视频通话如何被“秒”变脸

为了了解AI换脸技术，线丨记者近日来到了总部位于北京市西城区的换脸何防一家网络安全公司。技术人员向记者演示了AI换脸的可该过程。

奇安信算法工程师 万鸣：我们可以把老师的以假乱真照片导入进来。刚刚我们在拍的法治范一张照片，点击实时换脸，线丨现在可以通过摄像头捕捉到的换脸何防画面，就可以看到我们俩现在都被换成了同样的可该脸。

体验换脸效果

记者自己跟“自己”通话

万鸣告诉记者，现在专业的AI换脸软件，不仅可以实现五官、轮廓甚至皮肤肌理、光影效果的深度伪造，而且可以在微信视频聊天时，实现长时间实时换脸。刚才，万鸣的脸已经换成了记者的样子，所以当记者接到万鸣打来的视频电话时，就出现记者自己和自己通话的魔幻景象。

记者了解到，利用AI进行深度伪造技术正在飞速提升，仅靠简单的摇头，眨眼或张嘴等动作，已经很难鉴定变脸视频的真伪了。

AI换脸技术滥用

形成多类别犯罪

一张静态照片，凤台县刘集乡新闻网瞬间就能生成逼真的动态人脸视频，AI换脸本是数字时代的创新，近年来却被不法分子当作违法犯罪的工具。

记者通过检索发现，在“AI换脸”类犯罪案件中，最常见的就是电信网络诈骗，那些让人真假难辨的杀熟视频就是利用这项技术合成出来的。

“老同学”申请添加好友后

发起视频通话

家住内蒙古鄂尔多斯的李女士就曾经被一个自称老同学的人诈骗了。据李女士回忆，她当时是收到了一个微信添加好友申请，头像是自己的老同学“贾某”，她添加对方微信后，应对方的要求转入了QQ聊天。随后同学“贾某”主动发来了视频通话邀请。

被害人 李女士：跟我视频，没等我接起来就没了，紧接着又跟我视频一次，我还是接不起来。第三次给我打视频，我接起来16秒钟看到他的头像，头比较大，背景都看不到，声音听不到，太吵了，他说网络信号卡，听不到声音，文字交代，他就给我打字。

“AI换脸”冒充老同学

险些骗走40万元

视频通话虽短，但李女士确实看到了所谓老同学的样貌，所以李女士确信和自己交流的就是老同学“贾某”无疑。在李女士放松戒备后，所谓的老同学“贾某”就以遇到急事，想借李女士的账户做个资金周转的桥梁为由，忽悠李女士将40万元现金转到了诈骗账户上。好在警方启动了紧急止付机制，成功将被骗的40万元拦截。

而在“AI换脸”类诈骗案中，骗子之所以能够屡屡得逞，关键在于被害人在视频通话中都看到了熟悉的亲戚朋友的样貌，才打消了顾虑，同意向对方转款。这些足以以假乱真的视频全都是通过“AI换脸”技术伪造出来的。那么，当我们接到这类疑似利用AI换脸技术，冒充熟人进行诈骗的视频，究竟该怎么甄别呢？

奇安信算法工程师 万鸣：如果你对和你通话的人有身份有疑问，或者不能百分百确定，除了常规点头摇头，也可以尝试让他去快速动头部，用手对脸进行遮挡，来判断是不是真实的人物。如果用手去稍微遮挡一下，五官就浮在我的手上了。

不雅视频流传网络

女子被恶意换脸

据网络安全专家介绍，在“AI换脸”类诈骗中远不止视频杀熟一种套路，事实上只要在涉及面容、声音等特征的社交场景中，“AI换脸”技术如果应用不当就可能形成各种各样的犯罪。

辽宁沈阳警方就曾公布过一起利用AI技术合成他人不雅视频并恶意传播的案件。王女士在浏览某短视频平台时，竟发现她的面部被合成到一个裸体女性的身体上，还配有侮辱性文字。王女士从未拍过类似视频，随即选择报警。

警方发现，恶意视频的发布者指向一个姓刘的男子。刘某到案后交代，其发布的不雅视频是在网络上找人用AI合成的，目的是报复王女士。最终，刘某因触犯治安管理处罚法，被警方处以行政拘留十日，并处以罚款。

AI换脸绕过人脸识别系统

盗刷他人金融账户

对于熟人视频诈骗，实时换脸很容易蒙骗过关，但是对于一些需要刷脸认证的正规App又是否可以轻易过关呢？现实生活中，无论是手机解锁、手机支付、转账还是电商账号的安全验证，人脸识别都被认为是较高安全等级的保护，然而随着AI换脸技术的发展，人脸识别认证这一道安全防线，也在被犯罪分子不断攻破。

江苏省南京市玄武区人民法院就审理过一起利用AI换脸绕过人脸识别系统，侵入金融账户的案件。

网购两部手机

个人账户莫名被消费

当时，案件中的被害人朱先生收到一条扣款验证码信息，起初朱先生以为是诈骗短信并未在意。直到四天后，朱先生打开手机银行才发现，自己账户被某电商平台分两笔扣除共计15996元。朱先生当即给该电商平台客服打电话核实，得知这两笔钱用来购买了两部苹果手机，并已在深圳收货成功。

被害人账户被5部手机登录

异常操作75次

朱先生表示，这不是他操作的消费，并进行了投诉。电商平台发现，朱先生的账户曾被5部不同的手机通过3个IP地址登录，异常操作75次。

南京市玄武区人民检察院检察官助理 张海月：异常操作是指频繁尝试登录密码、找回支付密码进行信任登录等。该电商平台除朱先生之外，还有48个账户被异常操作将近200次。数据显示，这些账户都通过人脸识别进行重置登录密码和支付密码以及修改绑定手机号的操作。

查获195万多条个人信息

及“换脸”软件

南京警方接到被害人报案后，很快锁定犯罪嫌疑人符某，并在湖南将其抓获。在符某的出租屋内，民警现场查扣38部手机，并在符某的网盘内发现了他非法获取的195万多条公民个人信息和多款AI换脸软件。符某究竟是通过何种渠道获取如此海量的个人信息，又企图用来做什么呢？

在民警的讯问下，符某交代了自己通过换脸软件，非法登录他人账号并盗刷银行卡的犯罪事实，而他在换脸软件中输入的换脸人照片，正是此前非法获取的公民个人信息中的身份证照片。

据符某交代，他曾不断尝试登录被害人的微信、支付宝等账号，但是这些平台账号均需本人手机验证码登录，仅脸部识别无法登录。

南京市玄武区人民检察院检察官助理 张海月：符某尝试很多平台后发现，只有某金融公司的平台仅需用人脸识别的单一认证就可登录。

通过换脸这种方式，符某在该金融平台登录了23个被害人的账户，修改了5个人的关联信息，网上购物支付成功2次。

构成刑事犯罪

并严重损害社会公共利益

检察机关认为，符某的行为，不仅构成刑事犯罪，也严重损害了社会公共利益，遂提起刑事附带民事公益诉讼。最终法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月，并要求其承担15996元公益损害赔偿金、删除存储的所有公民个人信息，并在国家级新闻媒体上公开赔礼道歉。

同时，针对本案暴露的案涉金融支付平台存在技术风险问题，检察机关及时发出法律风险提示函。目前，该金融支付平台已完成整改。

记者调查发现，案例中的现象并非普遍存在，大家不需要过于恐慌。绝大多数时候人脸识别+手机验证的方式是安全的。而且银行等金融机构以及支付宝、微信等应用有‌多层次技术防护‌和严格风控体系‌‌，确保用户账户与资金安全。

犯罪频发背后是规模化

协同化的黑灰产业链

在采访中，记者注意到，如今网络上正形成一条隐形的AI换脸黑产。最上游负责从多种渠道拿到真实人脸数据和信息，中游通过各种技术培训AI换脸视频和诈骗话术，下游通过AI换脸实施犯罪。 在这类犯罪中，获取被害人的通讯录、照片库等个人隐私信息，则是“AI换脸”类犯罪的重要前提之一。

获取个人信息

成为“AI换脸”重要环节

网络安全专家告诉记者，事实上，对于诈骗团伙来说，要想获得这些信息并不难。在北京一家网络安全企业，记者看到技术人员攻破的一些诈骗团伙的数据库中，存有海量的公民个人隐私信息。其中包括姓名、手机号、身份证号、银行卡号甚至还有用户理财账户金额和风险评估类型。

暗网黑市明码标价

全套隐私信息一万条起售

这些公民个人隐私信息在一些暗网渠道被明码标价，打包出售，根据新鲜程度的不同，标价从几毛钱到几元钱不等，最低起售条数一般以一万条为计算单位。

“内鬼”＋“诱饵”两大渠道

套取个人信息

这些公民个人隐私信息除了主要由行业内鬼窃取出售之外，另外一个主要渠道就是利用一些非法链接、二维码和手机App诱导套取。

奇安信网络安全专家 李洋：例如从短视频平台爬取到人脸照片、昵称信息，从招聘网站买到手机号、姓名、年龄信息，从快递黑市买到姓名、手机号、住址信息，只要有手机号或者姓名重合，就能把所有的信息拼接在一起。姓名、手机号、身份证号、住址、人脸照片再加社交账号就能构成一份完整的身份档案。

自制软件干扰手机相机

专攻社交平台实名认证

除了买卖公民个人信息犯罪外，协助AI换脸技术作恶的手法也日益多样化，在该实验室协助警方办理的一起非法侵入计算机案中，被告人苏某针对安卓手机操作系统研发“虚拟视频相机”软件，通过突破安卓系统的安全防护机制，使用技术手段对手机相机功能进行未授权修改，干扰系统相机的正常运行，以实现绕过“快手”“抖音”等软件人脸识别实名认证的目的。

整治重点领域违法违规

收集个人信息

为遏制侵犯公民个人信息犯罪等网络犯罪，公安部等部门连续多年开展“净网”专项行动，捣毁一批个人信息交易平台。同时，中央网信办、工业和信息化部、公安部近日会同相关部门，部署开展新一轮个人信息保护系列专项行动，进一步深入治理App、软件开发工具包等服务产品以及互联网广告、教育、交通、卫生健康、金融等重点领域违法违规收集使用个人信息典型问题。

AI换脸怎么防？

需用魔法打败魔法

在AI换脸犯罪案件不断侦破的同时，惩治犯罪的法律网络也在逐渐织密，相关部门也在持续探索提升AI换脸视频的甄别技术，遏制这类不法行为的发生。法律专家表示，人工智能安全治理是全球性治理难题，目前我国已出台《中华人民共和国网络安全法》、《中华人民共和国个人信息保护法》、《人工智能生成合成内容标识办法》，相关法律法规与监管制度体系持续健全。

中国政法大学人工智能法研究院院长 张凌寒：针对有关AI换脸这种犯罪行为，国家用一种生态治理的思路，底线就是AI换脸不能突破法律的红线，去做违法犯罪的行为。但是在目前一些法律规定比较完善的情况下，规定了具体的落地，实际上有一个长期跟技术博弈的过程。比如这些AI换脸有关违法犯罪的视频，在网络上传播的时候，能不能及时鉴别到没有按照国家的相关规定，去打人工智能生成合成内容的标识，是不是真实的，这都需要技术标准，传播平台，包括公民个人信息保护以及公民的素质素养等多方面提升才能实现。

反诈软件＋鉴伪技术

用技术反制技术

专家表示，维护网络安全需要制度建设与技术创新并重，制度为技术的应用提供保障，技术则为制度的落地提供可行路径。利用AI技术实施的犯罪，最终也会随着AI技术的进步而减少。

中国政法大学人工智能法研究院院长 张凌寒：实际上既有伪造的技术，也要有鉴伪的技术。既有犯罪分子可能利用AI换脸技术打视频电话骗你，但是我们也有在手机上可以下载反诈的软件，可以去拦截这些技术。用魔法来打败魔法，用AI技术来打败利用AI进行犯罪的一种行为。

平台必须落实审核责任

个人勿乱授权限

同时，专家提醒，要遏制AI换脸技术的滥用，网络平台必须落实审核责任，公民个人也应加强防范意识。

网络安全专家 李洋：国家出台的人工智能生成合成内容标识办法，要求AI生成的图片或者视频必须加上显性和隐性标识。如果能从技术层面全面落实所有商用换脸AI视频工具内嵌不可篡改的数字水印，就可以追溯制作者，有效遏制AI换脸视频的滥用。最关键的，不随便发清晰正面照，不随便授权相机通讯录相册权限，可疑音视频要及时留存并报警。

（总台央视记者 李文杰 程琴 韩文旸 韩星 汤涛）

【下载地址】本站专属下载器：点击下方链接 即可享受高速下载和在线播放 专治迅雷无法下载