一张相片可实时视频换脸！警觉AI组成这种新式网络欺诈手法

08-27 844阅读 5评论

文章最后更新时间：2024年08月29日

　　为维护用户权益，避免账号被盗，许多交际软件都设置了人脸辨认的登录验证环节。但是，这一验证环节或许并不需要自己来操作，在湖北黄石就刚刚破获一重用AI换脸技能解锁交际账号并倒卖获利的欺诈案。

　　前段时刻，湖北黄石的王先生偶尔进入某炒股直播间，王先生增加了直播间推送的交际账号后，跟对方一同进行股票出资。跟着出资金额不断增加，当王先生想要提现时，发现对方的交际账号因涉嫌欺诈已被冻住，资金无法取出。

　　受害人王先生：一向取不出来，这个时分就发现了不对，由于他老是找各种理由让你取不了钱。后来我发现他的交际账号被冻住了。

　　警方在侦办案件过程中，意外发现该涉案交际账号忽然冻住并从头登录，估测或许有团伙协助欺诈嫌疑人解封了账号。查询发现账号IP所在地在河南，黄石警方在当地合作下，很快捕获三名嫌疑人，现场抄获13台电脑、9部平板、119部手机和80张电话卡。经讯问，高某与许某2023年9月底开端在网上贩卖和帮别人解锁交际账号，经过AI换脸交融的动态视频帮人解锁一些被途径冻住的结交账号。

　　湖北省黄石市公安局下陆分局指挥中心民警王楚奇：他经过自己在网上购买的一款视频组成软件，依照交际账号要求解封作认证的这些规则动作，运用他自己的人脸和他组成的那个视频，生成的AI视频上传到交际账号的后台，来进行认证。

　　据了解，这个团伙每解锁一个账号收费15元至30元不等，其间许多账号是因涉嫌欺诈被冻住的账号。该团伙共冻住了2107个账号，从中获利40万元。民警护理记者，AI组成视频已经成为新式网络欺诈的重要手法。

　　湖北省黄石市公安局下陆分局新下陆派出所治安巡防副队长张军：不要将自己的身份证号、身份证头像、手机号等等自己的隐私信息在网上进行露出，加强自己的隐私信息的维护。

　　目睹纷歧定为实

　　单张相片可实时视频换脸

　　咱们常说“目睹为实”，但在AI年代，肉眼所看见的也纷歧定是本相。一些不法分子运用“AI换脸”技能施行欺诈，已成为一种新式圈套。一张“肖像相片”、一段“形似熟人的视频”，都或许被不法分子运用作为欺诈的手法和东西。

　　在工业和信息化部反诈专班的试验室里，技能人员向记者演示了两种常用的AI换脸技能。经过一张事先从网络上揭露获取的记者自己相片，经过一段时刻的模型练习。这张相片就能在演示者的操控下像真人自如做出回头、张嘴、眨眼、浅笑等表情和动作。

　　工业和信息化部反诈作业专班专家李坤：不法分子首要会经过各种揭露的途径获取受害人的个人肖像或视频，然后运用AI技能，对这些相片中的面庞特征进行学习，然后仿照眨眼、摇头号动作，完成以假乱真的作用。

　　李坤表明，除了让相片上的人像活化，AI换脸技能还能完成在即时视频通讯状态下的实时换脸。技能人员也经过AI换脸技能让记者体会了一下与另一个“自己”视频对话的作用。

　　工业和信息化部反诈作业专班技能人员：首要找了一些揭露的交际媒体途径，去拉取一些公共的视频。拿了这些数据，全体的练习时刻差不多花了1天，24小时到达现在这个作用。假如时刻长点的话，咱们画面的明晰会有所提高。

　　技能人员护理记者，一切用于AI换脸练习的记者相片和视频都是从网上揭露搜集的，一共只用了四五张相片和不到五分钟的资料。假如有足够的练习时刻，仿真作用会更好。除了面庞以外，声响也可以经过相同的技能来仿冒。专家指出，独爱现在AI换脸和仿声有必定的技能门槛和较高的完成本钱，但假如被不法分子把握，就或许在即时通讯或许交际软件上伪装成别人，展开相应的欺诈活动。

　　AI换脸欺诈检测与预警技能正在测验中

　　运用AI技能制造换脸视频或组成声响来施行欺诈确实让人防不胜防，那么有必要防备这种危险呢？有关部门正在开发相关的反制技能和手法。

　　工业和信息化部反诈专班专家李坤：咱们正在会同行业界的手机终端企业，将推出AI换脸欺诈危险提示功用。这项功用仅在手机端来本地运转，可以有用维护用户数据不走漏，经过用户授权后，可为用户供给AI换脸欺诈危险预警提示。