AI换脸诈骗再现！防止盗号是关键，这些方法可(kě)识破AI换脸
2023-05-26 10:14:49

AI火了，骗子也来了！

近日，两起利用(yòng)AI换脸实施诈骗的案例引发关注。继包头警方发布“福州市某科(kē)技公司法人代表郭先生10分(fēn)钟内被人用(yòng)AI换脸诈骗430万元”后，5月25日，安徽警方也通过当地媒體(tǐ)披露了一起类似案件，诈骗分(fēn)子使用(yòng)了一段9秒(miǎo)钟的智能(néng)AI换脸视频，佯装“熟人”，导致安庆经开區(qū)的何先生被诈骗245万。

短时间内曝光的两起AI换脸诈骗案，对今年以来持续火爆的AI技术发展无疑是一种警醒：未来令人“防不胜防”的AI换脸诈骗会否大规模爆发？又(yòu)应如何防范这类诈骗？

5月25日，新(xīn)京报贝壳财经记者采访反诈民(mín)警以及行业专家发现，目前使用(yòng)AI换脸诈骗的案例并不多(duō)，同时在上述两起诈骗案中受害者均是先入為(wèi)主认為(wèi)发来视频的是朋友的社交账号才有(yǒu)了后续“AI换脸”的登场，因此源头上应先防止自己账号被盗用(yòng)、警惕他(tā)人社交账号真伪。此外，AI技术的发展也确实降低了AI换脸的门槛，客观上降低了AI换脸诈骗的成本。

两起AI换脸诈骗有(yǒu)何共同点？针对性诈骗，账号被盗是问题关键

新(xīn)京报贝壳财经记者注意到，近期曝光的两起AI诈骗案例均属于针对性较强的“特定性诈骗”。在郭先生的案例中，“好友”通过微信视频联系他(tā)，表示自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。郭先生转账后拨打好友電(diàn)话，才知道被骗。而在何先生的案例

中，其微信“好友”突然向其发起视频通话，電(diàn)话接通后，何先生看到“好友”正在一间会议室内，并借故会议有(yǒu)事，通过QQ要求周转资金，导致何先生被骗。

可(kě)以发现，在上述诈骗案例中，诈骗分(fēn)子对受害者和其好友的身份、日常话术均有(yǒu)深刻了解，才能(néng)完成诈骗。此外，在伪造好友身份这一环，通过AI伪造视频只是增加可(kě)信性，但消息确实是从“好友”的微信号发来，才造成了受害者深信不疑。

電(diàn)信专家付亮表示，在何先生的案例中，首先出现微信直接联系，然后转QQ号码直连，转账也未通过微信或QQ（绕开了腾讯的安全判定），“假冒QQ好友的诈骗手法快30年了，都没有(yǒu)用(yòng)到AI，互联网快速发展，更多(duō)防护意识较弱的人成為(wèi)网民(mín)，快捷的電(diàn)子转账也為(wèi)骗子提供了便利。两起案例中都是盗用(yòng)账号诈骗，AI换脸只是辅助。”

民(mín)间互联网安全组织网络尖刀(dāo)创始人曲子龙告诉新(xīn)京报贝壳财经记者，此类AI换脸的诈骗手段都是定向针对性诈骗，而非传统意义上“广撒网，打打電(diàn)话”的電(diàn)信诈骗，往往干的也都是“大单”。源头上需要防止账号被盗用(yòng)，不要轻易加陌生人，“也要防止其他(tā)人用(yòng)小(xiǎo)号加你，过一段时间改成你亲友，然后再实施诈骗。”

AI换脸诈骗不会大规模出现，有(yǒu)哪些方法可(kě)以识别对方是AI换脸？

5月25日，某沿海城市反诈专班民(mín)警对新(xīn)京报贝壳财经记者表示，目前并未发现当地有(yǒu)使用(yòng)AI冒充熟人作案的案例，主要是这种诈骗方式手段特殊，需要特定人群、还需要人脸数据等，要素比较多(duō)，因此不会大规模出现。

实际上，AI换脸技术早在2017年就已在网上流行，不论是使用(yòng)女明星的脸替换成人影星的色情影片，还是為(wèi)了娱乐使用(yòng)自己的脸替换電(diàn)影形象曾流行一时的App“ZAO”，使用(yòng)的都是同一类技术。

如何识别对方是AI换脸？曲子龙表示，AI换脸目前在连续动作的实时渲染方面还是会存在技术缺陷，比如在说话的时候嘴部动作、眼部动作，如果仔细看都会存在一定的“不和谐”情况，如丢帧、嘴巴时大时小(xiǎo)等问题。

有(yǒu)专家提示称，“AI假脸”的纹理(lǐ)特征存在破绽。例如，伪造后的视频人物(wù)的眼睛或牙齿轮廓细节容易不一致；两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样；很(hěn)多(duō)伪造视频由于视频分(fēn)辨率低于原始视频，伪造出来的视频牙齿边缘过于整齐等。

新(xīn)京报贝壳财经记者注意到，為(wèi)了防止“穿帮”，一般诈骗分(fēn)子不会長(cháng)时间播放AI换脸的视频，如在何先生的案例中，诈骗分(fēn)子只视频通话了9秒(miǎo)，就匆匆转到了文(wén)字聊天。

不过，一个现实问题是，随着AI技术的进步，AI换脸的门槛确实也越来越低。“以前AI换脸还需要一两百张图片，现在不同角度的照片，一般5到8张就可(kě)以生成很(hěn)不错的模型了。”曲子龙说。

曲子龙坦言，“AI发展太快，想要防止脸被盗用(yòng)太难了，尤其是一些公众人物(wù)、明星、网红，他(tā)们的照片很(hěn)好获取。像微博、抖音、朋友圈，或者干脆去偷拍你几张高清照片，都能(néng)通过AI建模实现换脸。”

付亮对新(xīn)京报贝壳财经记者表示，对于此类诈骗手法，主要要防范骗子通过微信或 QQ 假冒熟人（亲戚、朋友、客户）诈骗。一方面，有(yǒu)资金往来，应先電(diàn)话确认；此外，把钱打到陌生账户，要反复确认；最后，一定切记，对面和你聊天的不一定是本人，可(kě)能(néng)是假冒的，甚至可(kě)能(néng)是机器人，不要轻易相信。

来源：新(xīn)京报贝壳财经/罗亦丹