AI克隆的CFO,骗走了这家公司1.8个亿

冲锋在AI批评一线的马库斯就第一时间拉着网友们吃起了瓜:好家伙,这是《黑镜》降临了。

事件始末

我们暂且称这位被骗的财务人员为“小帅”,事情的具体经过是这样的。

AI“克隆”有多猛

可以看到,整个案件中,最终让小帅放下戒备的一大关键点就在于视频会议中的假人过于真实。

参考链接:
[1]https。

就离谱!只因开了一个视频会议,直接被骗1.8个亿。

这是真真切切已经在香港发生的一场犯罪:

一家跨国公司香港分公司的财务人员,按照“CFO”的指令,给对方指定账户共计转账2亿港币(约合1.8亿人民币)

谁曾想,这个刚刚在视频会议里跟自己“面对面”聊过的人,完全是Deepfake出来的!

先别着急骂这大兄弟警惕性太低,Ta也不是没有过一丝丝怀疑,但是,这可不是什么诈骗界常见的一对一视频通话——参与会议的有好几个熟面孔,无论是脸还是声音,当事人描述“每个人看起来都很真实啊”。

甭管怎么说,这事儿的惊悚程度,是有点吓到网友们了。

借由AI技术犯罪的话题,一时间又成为了各大平台的讨论焦点。

冲锋在AI批评一线的马库斯就第一时间拉着网友们吃起了瓜:好家伙,这是《黑镜》降临了。

深度伪造的狗屎越来越真实了。

事件始末

我们暂且称这位被骗的财务人员为“小帅”,事情的具体经过是这样的……

最初,小帅收到了一封远在英国总部的“CFO”发来的邮件。由于内容提到需要执行一项秘密交易,小帅一开始有些疑虑,并怀疑这是网络钓鱼信息。

不想,骗子立马展开下一步动作,邀请小帅进行视频会议。

小帅进入视频会议后彻底被眼前的一幕唬住了:不仅公司CFO在,小帅的一些同事也在,还有一些外部人员。

关键是,这些假同事和小帅认识的真同事无论是模样、长相还是声音,都别无二致。

会议中,这个假冒CFO还让小帅做自我介绍,不过在此过程中会议突然中断。

骗子随后又通过即时通讯平台、电邮、一对一视频通话与小帅保持联系。

如此接连下套,小帅最终中了骗子的诡计,按照会议中的指示,分别向5个香港银行账户进行了15次转账,总计2亿港元,也就是约2560万美元,约合RMB1.8个亿。

从骗子联系小帅开始,整个事件大概持续了一个周,直到小帅之后向公司总部核实情况,才惊觉整个事件不过是一场精心策划的诈骗。

之后他们报了警。警方立即展开调查,发现会议中除小帅外的所有参与者,都是骗子使用公开的个人视频和音频片段重建的数字人。

视频中让小帅自我介绍并不是真的在和他互动,而只是单纯的用虚拟形象下达指令。

警方还透露,不法分子曾使用相同的多人视频通话策略,试图诈骗该公司分部的另外一名员工,总共接触了两到三名员工。但警方未提供有关他们遭遇的完整信息。

目前该案还在进一步调查中,尚未对诈骗者实施逮捕。

后续在新闻发布会上,香港警方表示已逮捕6名与此类诈骗有关的人员,且类似案件还有很多:

去年7~9月,有8张被盗的香港身份证被用于申请了90份贷款、登记了54个银行账户;

至少有20次,AI Deepfake被用来模仿身份证上的人像,以骗过面部识别程序。

AI“克隆”有多猛

可以看到,整个案件中,最终让小帅放下戒备的一大关键点就在于视频会议中的假人过于真实。

那么现在的“数字克隆人”究竟能有多真?一起来看几个栗子。

就比如霉霉说中文的视频就来自一款爆火的AI工具——HeyGen。

音色口型简直完美复刻,网友看了之后都吓得直喊妈:

HeyGen的最新技术展示中,和数字克隆人实时聊天也已成为现实。

AI语音合成方面,最近比较火的是一家叫做11Labs(ElevenLabs)的初创公司。

11Labs不仅能实现29个语种的语音生成,而且仅需短至1分钟的音频素材,就能很好地“克隆”任何一个人的声音,语调、情绪变化都能模仿到位的那种。

关键是,现如今这些AI克隆术不仅真实度越拉越满,门槛也在逐渐降低……

比如下面这种开源项目,已经可以分分钟实现实时视频换脸。

项目主页列有不少现成的不同人的面部模型,如果不喜欢还可以自己训练模型。

“数字克隆版的你即将到来”

或许是受到这一事件和前段时间霉霉成Deepfake受害者事件的影响,上述这个实时换脸项目再获关注,还新鲜冲上了GitHub趋势榜。

就在这个项目的issues中,不少网友的抵触情绪早已弥漫多时。

但正如许多网友提到的那样,技术没有善恶之分。并且更现实的问题在于,开弓没有回头箭。

于是很多人把关注的重点,放到了“如何防御”这件事上。

除了更多规范和政策的制定,从技术的角度来说,Nature就在“2024最值得关注的七项技术”一文中提到:

让开发者在AI工具中加入隐形水印机制或许是一种方案。

而从个人的角度来说,提高警惕,已经成为AIGC技术爆发时代不得不面对的命题。

香港警方也在这次事件中表示,将扩大警报系统,以提前警告、阻止用户向诈骗相关账户转移资金。

不过,Deepfake假CFO骗走公司1.8个亿这种事儿,多少还是有点过于离谱。

以致于不少网友提出了质疑:

这么大一个公司,就没点风险管理措施?怕不是有内鬼吧。

参考链接:

[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage

[2]https://twitter.com/garymarcus/status/175418833118813020

本文来自微信公众号:量子位(ID:QbitAI),作者:西风、鱼羊

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年2月11日
下一篇 2024年2月12日

相关推荐

  • 狂砸670亿美元,日本要重振芯片产业

    为了夺回昔日半导体50.3%市占率的领先地位,且不被海外竞争者“卡脖子”,日本“痛下决心”狂砸670亿美元吸引全球先进半导体公司来日本建厂,并试图量产2纳米高端芯片,以重新领跑全球。

    日本在自20世纪80年代以来在全球半导体领域的领先地位被超越后“痛定思痛”,决定将截至2030年的半导体产业的复兴分为三个阶段:(1)加快半导体生产的基础设施建设。

    未来科技 26分钟前
  • 每秒500token的AI芯片让人惊叹,但它真的靠谱吗?

    根据Groq此前发布的论文,它的核心技术其实是一个名叫TSP的微架构设计,全称叫做张量流处理器,Tensor。

    对比可以看到,Groq的回答比较简单,无法挖掘书中所代表的更深的复杂的意味。

    快速来自上面提到的TSP的优化,除此之外,Groq上面的模型也是他们自己微调过的,它并没有公开微调过程,所以对于模型本身的看法来源于我的推测:它上面可以选用的所有的模型后面都有“小尾巴”,比如Llama。

    未来科技 27分钟前
  • 聊一聊我眼里的科技颠覆感

    如果说从电脑到互联网到智能手机,一直是在这个世界提升粘度频次的话,ChatGPT则是创造另外一个世界的重要支柱,且没有之一。

    就当下这个时间点而言,我依然像90年代末看到互联网一样,隐隐觉得这可能是一个很剧烈的变革,但还是有些懵懵懂懂模模糊糊。

    这个例子的意思就是,人类并没有掌握所有的规律,人工智能作为我们的创造物,通过机器学习大量的也是我们的创造物,能发现新的规律以至于可以重现虚拟的真实世界。

    未来科技 58分钟前
  • “已经有三个人跟我说要做中国版Sora”

    而针对OpenAI宣称sora是“世界模拟器”,图灵奖得主、Meta首席AI科学家杨立昆(YannLeCun)认为,根据提示词生成的大部分逼真视频,离“AI理解物理世界”还差得远,刷屏的视频仍有很多bug,生成视频的过程与基于世界模型的因果预测完全不同。

    去年此时,很多人问,为什么中国没有产生ChatGPT,到了今年问题又变成了,为什么中国没有产生sora,在天才科学家史蒂芬·沃尔弗拉姆那本《这就是ChatGPT》的导读序中,作者建议我们把问题换成,“为什么全世界只有OpenAI能做出ChatGPT”。

    未来科技 1小时前
  • 一年一万篇论文撤稿,期刊编辑守不住学术大门了?

    2023年最大比例的撤稿来自于出版商Wiley旗下的Hindawi系列期刊,在一年内撤稿超过了8000篇,该公司在声明中表示如此规模的撤稿是出于对“同行评审过程被系统性操纵的担忧”,尤其是大量负责特刊的客座编辑出现了不可控的风险,最终Wiley表示将彻底放弃Hindawi品牌。

    图源:Nature

    很多长期关注学术不端的专家对撤稿论文超过1万成为大新闻表示乐见其成,因为根据他们的观察,在全世界论文工厂的生意非常火爆,这1万篇仅仅是其中运气不太好的那一小部分。

    未来科技 1小时前
  • 存储,战火重燃

    一、冯·诺依曼的“陷阱”

    韩国人之所以能等来又一次机会,很大程度上得感谢“计算机之父”冯·诺依曼。

    1945年,全球第一台计算机ENIAC问世在即,冯·诺依曼联合同事发表论文,阐述了一种全新的计算机体系架构。其中最大的突破在于“存算分离”——这是逻辑运算单元第一次从存储单元中被剥离出来。

    如果把计算机内部想象成后厨,那么存储器就是仓库管理员,而逻辑芯片就是主厨。

    未来科技 2小时前
  • GPT-4劲敌,谷歌进入高能+高产模式

     

    图源:Gemini 1.5 Pro官方测试数据

    Gemini 1.5 Pro大大超过Gemini 1.0 Pro,在27项基准(共31项)上表现更好,特别是在数学、科学和推理(+28.9%),多语言(+22.3%),视频理解(+11.2%)和代码(+8.9%)等领域。
     

    图源:Gemini 1.5 Pro官方演示样本

     
    Gemini 1.5 Pro在处理长达超过100,000行的代码时,还具备极强的问题解决能力。

    未来科技 2小时前
  • Vision Pro的两个难题

    如果没有新的硬件变革,应该也没有什么纯内容服务平台的大机会了吧

    我的回复是这样的:

    这么多年的内容生态,内容本身变化很小的,基本还是图文音视频,这都是前互联网时代的东西。

    IMAX其实是一项1967年就问世的技术,但相当长一段时间里,也一直困在恶性循环中:院线不愿意花钱做IMAX影院,电影生产商因为IMAX影院少而不愿意费力气拍IMAX片子。

    由此我们可以看到,一个具有引爆点力量的内容非常重要,它能彰显出巨大的财富预期,以推动产业走出那个恶性循环。

    未来科技 3小时前
  • 299卖Sora内测账号?互联网的创造力全拿来骗钱了

    总而言之,虽然 Sora 的官方应用啥时候公测还没个准信儿,但这帮卖课、搞诈骗的,显然已经“遥遥领先”了。

    也难怪,最后整得。

    卖 GPT 课的时候,卖课哥还能给自己辩驳两下子,说这是知识付费,愿者买单。

    但 Sora 现在连产品都还不知道在哪儿,国内几乎也没有谁真正上手试用过,有些人还敢漫天要价,就真的是黑心的萝卜,坏透了。

    说实在的,这两年生成式。

    未来科技 4小时前
  • 赶超英伟达?都2024年了,居然还炒作SRAM

    SRAM的优点很明显,快,非常快,不仅远远超过NAND,更是超过DRAM的速度,所以SRAM的特点就是快。

    在PC,HPC上的CPU里面,SRAM面积还不小哦,普遍占到一半,但是在手机这种对功耗要求比较高的CPU里,SRAM就比较小了。

    实际情况就是大容量的SRAM要上,毕竟这个直接提升性能比较明显,但是HBM也绝对不是它的对立面啊。

    未来科技 6小时前