AI换脸，该抵抗吗？

目睹≠为实，AI换脸欺骗了不少人。

前两天，湖北公安破获了一重用AI换脸技能解锁交际账号并倒卖获利的案子。不法分子经过AI换脸专门帮人解锁被渠道冻住的结交账号，每解锁一个，收费15元～30元不等。该团伙共冻结了2107个账号，从中获利40万元。

有数据显现，2023年根据AI的深度假造欺诈暴增了3000%，深度假造也就是deepfake，是learning和fake的组合，首要指用AI深度学习的技能，组成某个人的图片或视频、乃至声响，最常见的就是AI换脸。工信部更是在近期表明，将推出AI换脸欺诈危险提示功用。

一边是AI换脸欺诈案子屡次产生，另一边则是AI换脸技能不断迭代。

AI圈最近被一款AI换脸项目——Deep-Live-Cam，炸开了锅。用户只需上传一张相片，便可实时换脸成扎克伯格、董宇辉等任何想成为的人。

这一项目免费面向一切用户敞开，发布在GitHub（代码保管渠道）上，支撑个人电脑装置。项目开发者发布了装置办法，没有技能经历的一般人能够边学边装置。

由于操作简略便利且换脸实在度高，Deep-Live-Cam进场便登上GitHub热榜榜首，24小时狂揽1600+星（星星代表项目点赞和重视方针，几千颗星星是适当不错的等级）。不少网友将自己换脸成马斯克，体会了一把全球亿万富豪的感觉。

但我们在慨叹AI换脸技能获得打破的一起，也在忧虑“欺诈更变得简单了”。AI换脸，该抵抗吗？

一般人都能用的AI换脸，本钱低至十几块

现在国内外呈现的AI换脸东西不少，Deep-Live-Cam被热议的原因首要在于，用户只用上传一张图但替换作用非常传神，还支撑实时换脸。

其实，“实时换脸”功用的技能门槛算不上高。

瑞莱才智联合创始人、算法科学家萧子豪介绍，想到达实时视频换脸作用有两种办法：一种是播映事前做好的换脸视频，一种是接入实时换脸视频。Deep-Live-Cam归于后者。

不管哪种，AI换脸视频都需统筹前后帧的连贯性，而根据接连人脸视频的处理，可根据前一帧的许多检测资源做细小的调整，“这也让根据接连帧的视频/直播换脸，比较独立帧的单张换脸，功率更高”，一位从事AI技能的研究员表明。

AI换脸依托的底层技能是Deepfake，从业者估测，Deep-Live-Cam选用的也是这一技能，所以仅从制造组成花费的资料和算力看，本钱不会很高。

萧子豪表明，假如不考虑其他硬件收购本钱，大多数AI换脸本钱，一次大约只需十几块，首要包括相片和算力，Deep-Live-Cam或许更低。和其他AI换脸东西比较，Deep-Live-Cam用的相片数量更少，该东西还支撑一般电脑运用，相片和算力本钱更低。

比较之下，Deep-Live-Cam支撑仅用一张图片换脸，更让从业者们震动。由于过往的AI换脸产品需求用户供给多张不同视点的至少十几张相片。

相片难度的下降让用户玩嗨了。AI追随者小C表明，自己之前没触摸过任何AI换脸东西，他觉得Deep-Live-Cam操作门槛不高，依照发布者的阐明便可完结，寻觅换脸资料的难度也不是很高。

他将自己换脸成了郭德纲、吴京、雷喜报等一众名人，且都只用了他们各自的一张图片。他表明，只需供给的是正脸、脑门无遮挡、天然光，挨近自己肤色、证件照份额的相片，一张便可成功，脸换作用也很天然。

不止一位从业者以为，部分影视剧选用的AI换脸技能，不只门槛高、本钱昂扬，换脸作用也不行天然，说话过程中经常呈现变形、失真。“像不像是AI换脸东西最大的难题，Deep-Live-Cam能支撑一张图在直播过程中到达，脸边际没有显着贴图痕迹，肤色和原人物不同不大的作用，传神度抢先许多AI换脸东西，”萧子豪剖析，其开发者应该是在图片烘托模型上完结了过往AI换脸东西没有的打破。

不过，现在Deep-Live-Cam还存在一些Bug，比方支撑换脸但不触及换声。但萧子豪表明，想要完结此举不难，接入实时换声东西即可，稍有编程根底的人就能完结。

AI换脸，躲不掉的欺诈和侵权

Deep-Live-Cam等东西下降了用户的运用门槛，但我们也开端惊骇，不法分子只用一张图就能够换脸行骗，对一般人而言，危险将会剧增。

瑞莱才智数据指出，国内AI欺诈案子的涉案金额从2020年的0.2万添加至2023年的1670万，年复合添加率高达1928.8%。2024年上半年，AI欺诈案超越1.85亿。奇安信发布的《2024人工智能安全陈述》显现，2023年根据AI的深度假造欺诈暴增了3000%。

AI换声、AI换脸、AI生成是AI欺诈常用的三种手法，其间AI生成内容，秒数有限，画质和人物瑕疵显着，因而不法分子最常用的是AI换声、AI换脸。而大多人信任“目睹为实”，又让AI换脸的欺骗性高于AI换声。

AI换脸不只骗到了老年人，许多从事科技范畴的年轻人也一夜失掉几百万。

据媒体揭露报导，上一年某科技公司CEO收到朋友转账求助，不到10分钟上圈套430万元，骗子首要就是运用了AI变脸技能。还有香港某跨国公司员工上圈套入不法分子规划的高管视频会议后，将2亿港元打到对方账户。

AI换脸到达了“能以假乱真”的程度，是从业者的一致。

李旭反传防骗团队负责人李旭对AI换脸技能的重视，便来源于各种欺诈案子。他表明，近两年AI换脸欺诈案子频发，市面上大约有三种AI换脸欺诈手法非常老练。

榜首种，运用AI换脸假造色情视频，对受害人进行敲诈。

比方违法团伙会从网上等各种渠道搜集被害人图片、视频信息，然后进行一键去衣、AI换脸等组成处理，将假造的不雅观视频或许艳照发给受害者，用来敲诈勒索。

第二种，运用AI换脸假充熟人欺诈。

比方欺诈团伙会用市面上的一些换脸东西伪装成受害人的亲人、朋友、搭档、领导等，先虚拟一个紧迫事由，运用上圈套方针的急切心思施行欺诈行为，受害人在情急之下往往简单放松警觉将钱转出。

现在运用Deep-Live-Cam更只需求收集受害者一两张相片即可深度仿造出一段视频，李旭觉得，AI换脸欺诈的程度超出了大多数一般人的认知，也直接改动了电信欺诈的剧本，防不胜防，愈演愈烈。

第三，运用AI换脸假充名人进行直播带货，骗得用户下单。

比方主播在直播间运用“AI换脸”给自己“换”了一张名人脸，然后添加直播视频流量，助力直播带货。

此外，未经别人答应，经过AI换脸对名人/一般人进行长短视频二创、制造表情包等侵权问题也非常常见。

AI换脸欺诈案子频发且手法多样，与这一技能的老练度和广泛度密切相关。

瀚皓科技CEO吴杰茜告知“定焦”，“现在，AI视频生成、数字人和AI换脸技能都很老练，而AI换脸是其间开展最早的范畴。”

2014年Deepfake（深度假造）技能的呈现，标准着AI换脸诞生，但一向在小范围传达，直到2017年，有用户运用该技能发布不实色情图片后，AI换脸才走入群众视界，但一起也由于其带来的许多造假内容，该技能一向备受争议。

不止一位从业者表明，这些年，尽管群众对AI换脸的评论多会集在解救影视剧上，但由于欠好监管，运用AI换脸进行造假欺诈的工作也一向没断过。且AI换脸技能一向在迭代，入局者也不少，现在除了一些大厂触及这一事务外，国内许多数字人、AI生成视频草创公司都有开发AI换脸事务，技能遍及度比较高，该类东西也越来越多。

技能老练、遍及度高，监管也有必定的难度，导致让AI换脸技能这些年一向被乱用。

怎么区分越来越传神的AI换脸？

近两年AI换脸导致的各种违法违法行为不少，不可控性让部分人觉得应该抵抗AI换脸技能。

但也有许多从业者觉得，科技自身是中性的，其带来的好坏影响首要取决于运用者。AI换脸技能的呈现和迭代不该该被阻止。

吴杰茜表明，现在国内外均没有对AI换脸技能采纳一刀切，更多是进行立法办理。

比方美国针对深度假造进行了专门立法，欧盟将深度假造归入《通用数据维护法令》等现有法令结构规准则，德国、新加坡、英国等国家也将深度假造相关违法归入刑法体系。我国也在《互联网信息服务深度组成办理规则》中明晰了对这一技能的标准。

多位从业者以为，对AI创造的内容进行标明等办理办法，以及传授给群众一些防AI欺诈办法，是非常必要的。

比方，曾有技能人员提出，能够在视频通话时，要求对方将手指放在脸部，仔细观察人脸是否变形，或许让对方张嘴，看牙齿和舌头是否明晰完好，然后判别图像是真人仍是AI组成。

上一年这一办法还比较见效，但本年跟着AI换脸技能的晋级，现已让其失灵。

萧子豪表明，当下AI换脸技能能够完结有障碍物呈现时人脸和动作不变形，且画质明晰度很高。李旭也发现，近期产生的AI换脸欺诈案子都运用了很强的技能手法，单纯靠动作简直区分不出。

鉴于AI换脸技能的快速开展，李旭以为，进步警觉是现在相对有用的办法。比方接到熟人借钱的视频来电时，能够问对方一些只需互相才知道的隐私问题，并多向身边人问询核实。

部分从业者觉得，用AI区分AI或许是个不错的办法。

比方先看画面有没有一些显着违反知识的元素，要点看脸部边际是否有瑕疵，然后再凭借一些AI东西。萧子豪觉得用AI鉴别AI，可识别出绝大多数圈套，现在许多公司和政府部门都找他们来协作AI换脸防护体系。

但此举在国内外也引发了必定争议。

首要，这种办法具有必定的运用门槛，用户需求在手机/电脑端下载相关使用。其次，从本质上看，这类防护东西存在必定的滞后性，首要对当下AI换脸东西见招拆招，但AI换脸技能和组成办法在时间改动。

许多人寄希望于相关法令法规完善，比方进步对AI换脸欺诈、出售AI换脸淫秽视频、换脸名人进行带货等违法行为的赏罚力度。

上一年，杭州萧山区人民法院判定了一重用AI换脸制造淫秽视频的事例，被告人因供给AI换脸定制服务，经过AI换脸制造了许多淫秽视频，还用建群的办法招引观看者付费进群，涉案金额共6万余元，终究被判处有期徒刑七年三个月，并处罚金6万元。

不过也提示我们一点，并不是一切的AI换脸都会侵略肖像权。

本年6月北京互联网法院宣判了两起AI换脸侵权案子，两位国风短视频模特在交际渠道上发现了自己视频呈现在某一换脸APP中，所以将该APP背面的科技公司告上法庭，以为其损害了自己的肖像权和个人权益。

法院的宣判是，确定被告运用了原告出镜的视频，但由于涉案视频中的原告面部已被替换，并未损害原告的肖像权，因而仅确定此举构成对原告个人信息权益的侵略。

此时，AI换脸技能还在不断晋级，也没有被制止，AI换脸东西还许多在市场上撒播。

“定焦”近期在某电商渠道上直接查找“AI换脸”时，现已搜不到任何信息，但只需把关键词稍加改动，仍是能找到相关换脸东西售卖，而且途径更为隐秘，会跳转到某二手网站进行买卖。在技能和骗术都在不断晋级的当下，我们能做的是进步警觉，避免被AI换脸损害。