文章来源:万象ai发布时间:2025-03-19 15:29:48
AI换脸技术的发展,已经引起了警方的高度重视。?
据香港媒体2月4日报道,??香港警方披露境内首宗多人换脸AI技术诈骗案,一家总部位于英国的跨国公司的香港分公司被AI换脸技术的一段视频,直接骗走2亿港元。

该诈骗集团首先在网上搜集这家受害单位的英国总部一众高层出镜的视频素材,该公司在YouTube平台发布公开视频,**逐步收集面部数据和声纹数据。
然后通过Deepfake深度伪造技术,将**提前准备好的诈骗视频,换上多名该公司总部高层的面部与声音。

再按剧本制作了一段“高层发言”的钓鱼视频,以公司的“CFO首席财务官”名义发出钓鱼信息,邀请香港分公司的职员参加线上会议。?️
会议期间,?屏幕上出现了4-5位总部公司的高层,“CFO”指示香港分公司职员进行自我介绍,其他伪装的高层简短“讨论”公司的交易决策,并与“CFO”跟进香港分公司的汇款事宜。
通过剧本循循善诱,指挥香港职员分15次,将共计2亿港元的现金转账到5个本地银行户口。
不幸的是,由于与会的高层都被集体「换脸」,加上声音很相似,本着「眼见为实」,香港方面的职员不虞有诈放下戒备心。
香港分公司的财务人员直至事后向总部确认打款?,才知道受骗。

香港警方深入调查发现,本案的「AI换脸」有几个特点:
1️⃣为了让受害者深信不疑,**采取「多人换脸」的方式增加可信度?
2️⃣**制作的英国总部高层的伪造发言视频,都是提前根据脚本录制的视频片段,所以视频会议上并不会与香港的职员互动,但是也不提供发言机会
3️⃣为了避免露出马脚,视频会议在数分钟内结束⏰
4️⃣所谓的总部高层现身下达指令,只是要给香港职员营造一个「最高指示」的场景,接纳自上而下的决策
通过本案我们可以发现,该公司的职员缺乏自我判别能力,一味照办高层“决策”酿成大错。
香港警方强调,科技发展一日千里,市民时刻保持警惕,养成一个防诈的习惯,对任何社交平台软件所收到信息,都要有一个防备心。
⚠️尤其是,那些涉及到金钱往来的信息!?
谨记在人工智能「Deepfake深度伪造」下,网上已经不是「眼见为实,有图有真相」。
相关攻略 更多
OpenAI底层AGI技术被曝光!前研究主管豪言:从此再无新范式
爆款AI视频越来越多,但本质我觉得跟炒股没区别。
Cursor+Claude的SVG图片生成功能,强到离谱,强烈建议写PPT没思路的时候买个会员
超20万人使用!最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了~
营销获客AI公司Clay,花7年找到PMF后,快速实现10倍增长的秘密
5天连发5个王炸!MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
数字疗法AI医疗独角兽SwordHealth再融4000万,估值冲至40亿美元背后的战略棋局
最新资讯 更多
OpenAI底层AGI技术被曝光!前研究主管豪言:从此再无新范式
更新时间:2025-07-25
爆款AI视频越来越多,但本质我觉得跟炒股没区别。
更新时间:2025-07-25
Cursor+Claude的SVG图片生成功能,强到离谱,强烈建议写PPT没思路的时候买个会员
更新时间:2025-07-25
超20万人使用!最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了~
更新时间:2025-07-25
营销获客AI公司Clay,花7年找到PMF后,快速实现10倍增长的秘密
更新时间:2025-07-25
5天连发5个王炸!MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
更新时间:2025-07-25
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
更新时间:2025-07-25
数字疗法AI医疗独角兽SwordHealth再融4000万,估值冲至40亿美元背后的战略棋局
更新时间:2025-07-25
宁德时代领投,「银河通用」完成超10亿元新一轮融资
更新时间:2025-07-25
【译】万字长文解读:生成式AI的21个设计模式、示例及应用策略
更新时间:2025-07-25