近日，一则“AI换脸，10分钟被骗取430万元”的新闻成为了众人茶余饭后的谈话热点，紧接着，又是一则“安徽男子9秒被骗132万的”信息加深了人们对人脸交换和语音模仿类人工智能技术的担忧。
430万、132万，这样的数字，是绝大多数人想都不敢想的，哪怕是在人均工资上万元，人人都是百万级收入的互联网上，许多人都对此事件仍然感到震惊。
还记得chatgpt刚发布的时候，在全世界掀起了一片热潮，随之而来的各种AI开发公司如同雨后春笋一般崛起，在很短的时间里，各种人工智能技术铺天盖地的进入人们的生活当中，AI绘画、AI写论文、AI商业分析、AI编写程序等等便捷的信息处理技术，迅速点燃了普通人对人工智能的兴趣，也不知道具体从什么时候开始，AI换脸和AI声音交互就悄悄进入了人们的日常生活中。
男的将自己置换成电视里的文人墨客，又或者是仗剑天涯的大侠，而女的也变成了沉鱼落雁的大家闺秀，驰骋疆场的现代花木兰，甚至是将自己和喜欢的艺人置换在一起，拟真度非常高，毫无违和感。直到这个时候，众人都还沉浸在新奇的AI技术当中，丝毫没有注意到这种技术的危险性。
终于，网上一则“10分钟被骗走430万！小心这种新型诈骗手段！”的信息上了热搜，所有人才留意到AI技术的恐怖。
如今网上的声音，更多的是对人工智能技术的担忧。技术开发商有没有方法防止类似的事情发生，而作为普通人，又应该如何避免被骗。
那么，这究竟是怎么回事呢？
详细情况
1、福州某科技公司老板被骗430万
4月20日11时40分左右，福州市某科技公司法人代表郭先生的“好友”突然通过微信视频联系到他，两人经过短暂聊天后，“好友”告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。
“好友”向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。
钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。
郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。
在福州市和包头市两地警方的强强联手和包头市蒙商银行的全力协助下，该诈骗账户内的336.84万元被骗资金已被成功拦截，剩余款项93.16万元资金流出信息也被掌控，两地警方正在全力追缴当中。
2、安徽男子9秒被骗132万
5月25日下午，“澎湃新闻”的一则“AI换脸冒充熟人诈骗警方追回132万”新闻被多方媒体转发，迅速登上微博热搜，而该微博话题的主持人是“安徽公安在线”。
两人先进行了9秒钟的微信视频通话，然后加了QQ，在QQ沟通后，才转了账。
案情分析
通过警方对两起案件调查后发布的警务通告可以看出，两起案件都是典型的“冒充熟人作案”。
- 两起案件，都是通过短暂的微信视频沟通后建立起联系的。
- 两起案件的受害人都是公司老板。
- 两起案件均设计了骗术和话术。430万是“借账号假称需公对公转账”，且先发来了向其转账的“底单截图”（假的）骗取信任；132万是9秒后匆匆挂断，将进一步的交互转移到了新的QQ上。
- 两起案件均及时报警。
微信被盗号，这是很有可能的，笔者微信就曾被盗过，当找回微信的时候，钱包中已经分文不剩，警方通过调查发现，款项均是被在国外扫码消费，损失已经无法挽回。
案件中都有一个共同点，那就是视频确认是熟人，但是，是否是AI换脸这就不能确定，毕竟视频时间都很短暂，没有足够的证据进行信息支撑。其次，许多人都用的自己相片当微信头像，若是微信被盗，那这种情况也是成立的。
AI换脸变声问题层出不穷
- 近日，一名拥有百万粉丝的女网红爆出了一起“AI换脸”事件。她的视频评论区突然涌来了很多人说看过她的“视频”，但她从未发布过。她疑惑地点开了粉丝推送给她的视频，结果发现里面的女生和她长得一模一样，但做着一些难以描述的动作，让她感到非常愤怒和无助。
- AI孙燕姿在B站，甚至是社交圈大火。孙燕姿的歌难以模仿和复刻，这是整个“选秀圈”都知道的事情。但是AI却将这一切都变得简单，许多up主利用这一技术复刻孙燕姿的声音，取得了不菲的成就。
- 包头市公安局反诈中心发布了一条案例：小李的大学同学通过QQ跟她借钱。对方打过来一段四五秒的视频电话，小李看到确实是本人，便放心转账3000元。然而，她在第二次转账时感觉异常，便再次拨通对方电话，这才得知同学的账号被盗，遂报案。警方判断，那段视频很有可能是被人换了脸。
在微博，还有不少的网友发布自己的受骗经历，显然，AI诈骗这种新型的骗局，已经悄无声息的收割了一波人群。
AI换脸，并不容易
无论是什么软件技术，都是基于完善的硬件设备之上的，当前我们的芯片，还不足以支持AI技术真正的做到和现实一模一样的地步，特别是即时视频通讯中。
AI换脸，主要在相片、短视频和直播当中被玩的热火朝天。不用心的人，可能在相片和短视频中看不出什么差别，但是在直播当中，类似表情不协调，五官变形等各种问题时有发生，就算神经很大条，也能发现一些端倪。
需要注意到的是，短视频和直播中的变声和美颜等功能是平台默许的，也就是说平台认可他们的做法，所以在技术层面上会有一定的支持，但是在即时通讯中，特别是视频，除了相机自带的美颜外，其他一切美化功能都是被禁止的。
所以，微信视频中，AI换脸技术，应该也是很难做到的，毕竟腾讯不可能向社会公开开放自己的微信端口，这也是法律不允许的。
因此，不管是430万骗局，还是132万诈骗，笔者认为两案并非采用了AI换脸技术，仍然是传统的“盗号+冒充熟人”的作案模式，只是骗子都是老手，经验丰富，节奏拉的很好，且整个过程中对方没有任何信息的暴露，说明诈骗分子具备丰富的反侦察意识。
如何防范
无论是传统的诈骗，还是新型的AI骗局，我们都应该小心防范。近年来，通过微信或 QQ 假冒熟人（亲戚、朋友、同事等）的诈骗案件一直高发，虽然平台方也在不断为用户增加安全措施，但通过视频或音频短暂沟通，再利用其他支付手段进行支付，平台方也是爱莫能助。
所以，笔者有以下三点建议送给你，希望能让你有所防备。
- 多重验证，确认身份
在涉及到金钱交易的时候，切记通过电话，视频的方式确认对方身份，如果不能确认，可以将到账时间设置为“2小时到账”或“24小时到账”，给自己预留时间，在这个时间段里，可以再次确认对方信息。若是对方要求转到不属于他的账户上的时候，更要小心谨慎，务必要多次确认对方信息才行。
- 保护信息，避免泄露
加强个人信息保护意识，不管是在互联网上还是社交软件上，尽量避免过多地暴露自己的信息。同样的道理，在外面不要看到有“加微信，下载App，关注公众号免费赠送礼品”的活动就去参与，提高警惕，拒绝诱惑，否则你的信息会被别人扒的干干净净。
- 如果你的手机上还没有下载“国家反诈中心App”，那我建议你立刻下载。
你目前还没被骗，并不是因为你多聪明，也不是因为你没钱，而是适合你的“剧本”还在路上。
点赞关注！关于AI换脸，你有什么想法么，欢迎留言讨论。
