导航|地址|刷新
视频通话“挥挥手”鉴别AI诈骗，为何不灵了？_手机网易网




















网易网易号



0







视频通话“挥挥手”鉴别AI诈骗，为何不灵了？


金台资讯
2026-07-30 18:21·北京·金台资讯官方网易号

0


“挥挥手”鉴别AI诈骗，为何不灵了？

最近，上海市公安局浦东分局披露一起网恋交友诈骗案件：50岁的吴女士在网上结识一名自称“李振锋”的“军官”，她特意鉴别确认对方身份为“真”后，才与对方网恋并进行投资，但仍被骗近80万元。

该案件与大部分网恋交友诈骗案件类似，但“AI含量”不低。尤其让人纳闷的是，吴女士与嫌疑人交往时，多次根据网传AI鉴别方法确认对方身份。究竟哪个环节出了问题？

记者从上海市公安局“803反诈”宣传团队了解到，随着AI技术发展，诈骗分子使用AI进行诈骗的现象逐渐增多，迷惑性也越来越强。

挥手辨别AI造假失效？

据浦东警方介绍，吴女士在今年5月通过网络相亲平台认识了一名叫“李振锋”的男子。对方自称1972年出生，是某部队即将退役的团长。为博取吴女士信任，对方向她发送了身份证、军官证等证件照片。

同时，对方主动与吴女士视频通话，并在视频通话中告诉她，可以通过“用手在脸部挥动，画面正常”的方式，鉴别视频是否为AI生成或AI换脸，他还当场演示了用手遮挡面部等动作。

吴女士是一家企业高管，并非没有警惕性。她为了验证“李振锋”的身份，专门上网搜索“如何鉴别AI生成视频”，发现确实如对方所说，可以通过挥手等动作区分真伪。

至此，吴女士开始相信“李振锋”。随着两人交往深入，对方称认识“中国黄金集团”高管，掌握内部理财推算数据，投资可稳赚不赔。受高额回报诱惑，吴女士在对方提供的虚假投资平台开设账户，先后投入近80万元。之后，账户余额增值至140余万元。

其实，吴女士在虚假投资平台操作时，反诈系统已经发现并发出预警，所在地派出所民警多次上门提醒和劝阻。可她当时已深陷骗局，刻意隐瞒自己与嫌疑人有沟通，甚至使用两部手机，把含有聊天和投资记录的手机藏起来，没有听从民警劝阻。

后来，吴女士偶然在网络上看到有人被名叫“李振锋”的“军官”诈骗，经历与自己颇为相似，随即质疑对方身份。嫌疑人见状，假意安抚。可当吴女士尝试提取账户资金时，发现钱款无法提现，这才确认自己被骗，随即报警。目前，案件仍在侦办中。

此前，很多专业人员提醒公众，可以通过“挡脸”“挥手”“捏鼻子”等动作鉴别视频是否为AI生成或对方用了AI换脸。在吴女士的案例中，为什么嫌疑人在“挡脸”“挥手”时，视频没有出现破绽？

浦东公安分局刑侦支队反诈中心副队长胡占军指出，之前生成视频的大模型还不成熟。当人脸被手遮挡时，大模型无法快速生成与这个动作相匹配的画面，导致人脸变形或模糊。但随着AI生成技术的进步，部分大模型在应对小范围遮挡等情况时，已经能生成较为流畅自然的画面，从而让观看者误以为视频里的是真人。

AI造假成为诈骗新手段

从已经发生的诈骗案件看，越来越多的陷阱都用上了AI。上海市公安局“803反诈”宣传团队成员、刑侦总队民警颜晨超介绍，目前常见的与AI相关的诈骗案件有三类。

第一类案件是打着“免费学习AI技术、AI全自动运营”的噱头，诱导受害人开设所谓的海外电商店铺。

在这类骗局中，诈骗分子利用受害人渴望跟上技术发展的心理，宣称学会相应的AI技术后，能开设无需本人操作的海外网店。该网店由AI智能系统自动经营、自动接单、自动发货，受害人只需垫付货款即可坐等盈利。

为证明收益可观，诈骗分子会搭建一个仿冒的电商运营页面，包括店铺后台、收益流水、订单金额、盈利数额等。但这些内容都是虚构的，可随意篡改。若受害人想提取本金和盈利，诈骗分子会用账号异常、风控拦截、店铺冻结等理由，要求受害人充值解冻、缴纳保证金、刷流水等，然后才能提现。受害人如果转账解冻，不仅无法提现，还将同时被骗走前期垫付的货款和解冻资金。

第二类案件是不法分子利用AI修图、AI生成、AI合成等技术，伪造身份证、工作证、客服资质、官方通知文件等，逐步诱导受害人投资理财、合伙做生意、私下转账等。

第三类案件是AI诈骗的潜在风险：诈骗分子通过短视频平台、社交动态、社交平台评论区、通话录音等渠道，搜集受害人亲友的日常语音片段，将几十秒的短句素材通过AI技术克隆出亲友的声音，然后以受害人亲友身份行骗，借口包括紧急借钱、急事缴费、临时周转等。“目前，上海暂无查实的同类警情，但依靠十几秒语音素材完成声音克隆，技术上已基本没有问题。若在冒充亲友借钱的骗局中，诈骗分子运用AI语音作案，欺骗性将大幅上升，公众务必提高警惕。”颜晨超说。

普通人如何防范？

既然AI诈骗时有发生，普通人该如何防范呢？

颜晨超表示，如果亲朋好友通过电话、语音通话等求助，包括借款、转账等，首先要有“是否为AI生成”的求证意识，然后加以鉴别：AI克隆语音虽然声线相似，但存在明显缺陷，包括无法复刻个人说话习惯、口头禅和情绪细节。AI对话通常逻辑生硬、语速均匀无波动，无法灵活应答随机问题。

所以，可以随机向对方提出私密问题、过往专属回忆等。一旦打乱对话节奏，AI很难灵活应答，从而露出造假痕迹。

同时，对有资金往来需求的通话，务必进行二次身份核实，可以通过线下见面或先挂断电话，再换一种方式主动联系对方等。

在鉴别视频通话中是否存在AI生成内容时，可关注画面流畅度：AI换脸视频普遍存在画面卡顿、眼神呆滞、面部光影僵硬、嘴型轻微对不上等问题。同时，务必记得使用随机指令，即不要等对方说“我要做什么”，而是随机要求对方完成多个指定动作。此时，普通的生成式大模型处理速度很难跟上，视频画面就会露馅。

胡占军举例介绍了可以采用的“随机指令”——

可以让对方做大幅度的动作，包括快速转身、左右摇摆身体等。“大幅度”和“速度快”非常重要。若想在这些指令下生成没有破绽的视频，需要技术成熟的大模型，成本比较高。

或者要求对方做精细动作，包括眨眼、挑眉毛、伸出舌头等，然后观察视频中的人物面部是否有不自然的地方。因为AI大模型对精细化动作的处理能力相对较弱。

“但大家要知道，随着AI技术发展，不论哪种鉴别方法，都有局限性。不轻信陌生网友、谨慎参与陌生平台投资；接到96110反诈预警或是民警上门劝阻时，如实告知自身情况，切勿隐瞒……这些才是防范骗局的根本。”胡占军提醒。

(来源：解放日报 记者 任翀)








特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。






打开网易新闻体验更佳




热搜

吴宜泽vs墨菲

宇树科技：8月10日打新

美股半导体板块迎反弹 多股暴涨超10%

微软股价涨幅扩大至15%

新西兰外长竟要华裔议员“滚回国”

今年军校报考热度与生源质量均创历史新高





热门跟贴




打开APP发贴

0条跟贴








相关推荐




博主浦东机场乘出租车遭“抛客” 又有后续

看看新闻Knews1跟贴









浦东机场铺开“无感中转”跨航司合作越来越多

金台资讯









今天上午沪南公路一市场内货车起火 幸无人员伤亡

上观新闻









挖掘优质数字安全人才！第四届浦东新区数智未来守护者大赛收官

文汇报








高温天，浦东公园来了群“智能员工”





新浪财经






竞逐“AI+内容”黄金赛道，浦东新区举办游戏微短剧产业推介会

新浪财经









涉案金额21万元！晋城一男子被刑拘

晋城攻略









虚拟币“上分”的陷阱：一名在校生网络赌博的沉沦与代价

微湘西








豪车成排茅台满墙，受害人躲13年不敢回家，狂飙老默原型有多狠？





墨策史






事发绵竹，一名网逃人员被抓

微绵竹









“井下不得使用劳务派遣工”，然后呢？

中国新闻周刊106跟贴









兑现正义的“硬核招数”——强制执行措施全解析

文水法院









为网暴“划红线” 首部专门性法律将填补哪些治理空白？

极目新闻









《重庆市数据安全管理条例》9月1日起施行 

上游新闻









太突然：上海刚刚密集预警 天气分分钟发生大转折

新闻坊60跟贴









揭秘骗局，没有一个老年人能幸免！听完真的太惊讶了

米乐米兜的麻麻








金山电网最高负荷，突破200万千瓦！月内三刷纪录！





新浪财经





全新公交枢纽投用！还有免费停车场





i金山





锦绣藏匠心！杨行爱心暑托班带孩子们沉浸式玩转宋锦非遗





上海宝山





露天环境下温度超50℃，高温天公交修理忙





新浪财经








回到顶部回到首页



------
导航页 打开网址