警惕！10分钟被骗430万，AI诈骗频频爆发，千层套路该怎么破？
点开直播间乍一看，卖货的竟是当红女星。再定睛一看，“明星”其实是使用人工智能（AI）实时换脸技术的普通主播。他们冒充明星艺人，只为增加卖点，助力卖货……
近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪，例如伪造不雅视频、换脸诈骗等。
多起AI换脸诈骗案例
近日,福建福州的郭先生收到好友的视频联系,好友在视频中称自己的朋友在外地参加项目招投标需要430万元的保证金,希望能借用郭先生公司的账户进行过户转账。
由于郭先生对此好友信任已深,加之好友在视频中表情举止与以往无异,郭先生未做进一步核实就同意将钱款分两次转入好友提供的银行卡号。
转账完成后,郭先生方才发现上当受骗。原来,这是骗子利用AI“换脸”技术,在视频通话中冒充好友的面孔和声音,取得郭先生的信任后实施诈骗。
“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了警惕。”郭先生表示。
2022年2月,陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称,自己被“好友”诈骗了近5万元。经警方核实,诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频,截取其面部视频画面后再利用“AI换脸”技术合成,制造陈先生与“好友”视频聊天的假象骗取其信任,从而实施诈骗。
浙江温州公安曾发布消息,2021年拱宸桥派出所接到报警,受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查,对方利用AI换脸技术,将小陈视频中的面部合成到不雅视频中,借此对其实施勒索。
2020年,上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔,并要该高管转账,致使该高管被诈骗150万元。
近日,小李的大学同学通过QQ跟她借钱。对方打过来一段四五秒的视频电话,小李看到确实是本人,便放心转账3000元。然而,她在第二次转账时感觉异常,便再次拨通对方电话,这才得知同学的账号被盗,遂报案。警方判断,那段视频很有可能是被人换了脸。
某公司财务小王接到领导电话,要求立刻给供应商转款2万元,并将转账信息以邮件形式发送,转款理由是避免缴纳滞纳金。由于老板的口音十分逼真,小王信以为真,在1小时内转款完成,后发现被骗。
安徽安庆“熟人”AI换脸诈骗132万
4月27日,安徽安庆经济开发区发生一起“冒充熟人”诈骗案。受害人王女士报警称,有人冒充其熟人打电话找她借钱,声称临时有紧急用事需要50万元。
王女士一开始还对方有所疑虑,但是对方又发来一段9秒的视频,视频中人物长相和声音都与其熟人极为相似,王女士这才相信并汇出30万元。
事后,王女士再次致电所谓的“熟人”,这才发现自己上当受骗。原来,骗子利用AI技术制作的9秒视频,实现了“换脸”效果,冒充熟人的面部特征和声音,赢得王女士的信任,实现诈骗。4月28日,专案民警连夜赶赴安庆外省抓获3名涉案嫌疑人。
经审讯,3人均系安徽省外人员,他们通过AI技术手段获取王女士熟人信息,并使用“换脸”技术制作出9秒视频用于诈骗。目前,警方已追回132万元被骗款,并将其退还给王女士,案件正在进一步侦办中。
AI诈骗常用手法
第一种:声音合成。骗子通过各种手段获取目标人的声音素材,然后利用声音合成技术,在电话中伪造目标人的声线,从而诈骗受害人。这类手法难以防范,因为人们通常难以分辨电话中的声音是否真实。
第二种:AI换脸。骗子通过AI技术实现视频中的“换脸”效果,冒充熟人或亲友的面容,赢得受害人信任后实施诈骗。这类手法难防范的原因是,人在视频通话中通常更容易信任所见即所得的影像。
第三种:微信语音转发。骗子获取目标人微信号后,转发之前真实的语音信息,伪造与受害人的熟悉交谈,诈骗受害人。虽然微信本身不具备语音转发功能,但是通过非官方插件等手段,依然可以实现语音信息的转发。
第四种:AI程序筛选。骗子利用AI技术分析海量互联网信息,定向筛选目标受害人群。再根据不同诈骗类型,如金融诈骗、感情诈骗等,生产出定制化的诈骗程序和方案,精准地针对目标人群实施诈骗。
如何防范AI诈骗
第一,多重验证对方身份。比如同时使用视频通话、电话通话与其他联络方式进行确认,或者要求对方提供更多证明材料如身份证扫描件等。切勿单凭一种方式就放松警惕,避免被AI换脸或声音合成技术欺骗。
第二,保持高度警惕突然来电。即使显示为熟人的号码,也要谨慎。因为现今高达95%的诈骗电话使用假号码,这些号码表面显示正常但实为伪造。收到突如其来的电话要保持理智,不轻易相信对方声称与要求。
第三,转账前再次确认。发现对方态度急切,理由不明或故弄玄虚时要警惕。建议转账前再次拨打电话或通过其他方式要求对方解释清楚需要款项的具体用途,同时要求提供相关证明材料。一旦发现蛛丝马迹应立即报警。
第四,警惕社交软件诱导汇款。收到熟人或上级要求汇款时要仔细判断,其提出的理由是否合情合理,是否与日常接触的情况相符。如果对方主动找上门来要求汇款,更有可能是诈骗。应当拒绝或报警处理。
第五,发现异常或被骗报警保护证据。不论是疑似诈骗电话、可疑转账要求或已经上当受骗,第一时间拨打报警电话。并保护相关证据如电话录音、聊天记录与转账凭证等。这些材料将有助于警方搜证,更快破案与追回被骗资金。
