西风酒 鱼羊 只想说 凹非寺量子位 | 微信公众号 QbitAI
就吓人!仅因开了一个视频会议系统,立即上当受骗1.8亿。
这也是切切实实早已香港产生的一场违法犯罪:
一家跨国企业中国香港子公司的财会人员,依照“CFO”的指令,给彼此指定账户总共转款2亿港币盈彩官方网站(折合1.8亿元人民币)。
不曾想,这一刚在视频会议系统里和自己“零距离”聊起得人,完全就是Deepfake出的!
先别着急骂这老铁警觉性过低,Ta也不是没过一丝丝猜疑,可是,这并不是什么行骗界比较常见的一对一视频语盈彩官方网站音通话——
参与会议的有好多熟面孔,不管是脸或是响盈彩官方网站声,被告方叙述“每一个人看起来都很真正啊”。
不管怎么讲,这个事情的恐怖程度上,是有些吓住大家了。
利用AI技术性违法犯罪讨论的话题,一时间又成为了各大平台的探讨聚焦点。
冲锋在AI指责一线的马库斯就第一时间拽着大家吃起了瓜:我勒个去,这也是《黑镜》降临了。
深度伪造的牛粪愈来愈真实了。
事情前因后果
我们暂且称这名盈彩官方网站被骗财会人员为“小杰”,事儿的实际通过是这样子的……
最开始,小杰收到了一封身在美国总公司的“CFO”发送的电子邮件。因为具体内容提及必须实行一项秘密交易,小杰一开始有一些顾虑,并猜疑这也是钓鱼攻击信息内容。
不愿,骗子公司立刻进行下一步运作,邀约小杰开展视频会议系统。
小杰进到视频会议系统后完全被眼前的一幕唬住了:不但企业CFO在,小杰的一些朋友同样在,还有一些外界工作人员。
关键在于,这种假工作同事小杰了解真朋友不论是样子相盈彩官方网站貌或是响声,都别无二致。
会议上,这一仿冒CFO还要小杰自我介绍,但是在这个过程中大会突然中断。
骗子公司接着又根据即时通信服务平台、电子邮件、一对一视频语音通话与小杰保持联络盈彩官方网站。
这般连续设套,小杰最后里了犯罪分子的阴谋,依照大会里的标示,分别往5个香港银行账户展开了15次转帐,累计2万港元,其实就是约2560万美金,折合RMB1.8亿。
从骗子公司联络小杰逐渐,整个事件大约经历了一个周,直至小杰以后向总公司核实,才惊觉整个事件不过是一场精心策划的行骗。
之后他们报警求助。警方立即进行调查,发觉大会中除了小杰外的所有参加者,都是骗人的应用公开发布个人图片和声频精彩片段重建的虚拟数字人。
视频里让小杰简单自我介绍并不是真正的在与他互动交流,而只是简单的用虚拟人物下达指令。
警察还表示,犯罪分子曾使用相同的群视频语音通话对策,尝试行骗该企业分部的此外一名员工,一共接触到了两至三名职工。但警方不提供相关她们遭受的详细信息内容。
现盈彩官方网站阶段此案还在进一步调研中,并未对诈骗犯执行拘捕。
后面在新闻发布会上,香港警方表示已拘捕6名与该类行骗相关工作的人员,且类似案件还有一些:
上年7-9月,有8张被盗的香港身份证被用来办理了90份借款、登记了54个银行帐号;
起码有20次,AI Deepfake被用于效仿身份证上人像图片,以骗得人脸识别程序流程。
AI“复制”多么猛
能够盈彩官方网站看见,全部案例中,从而让小杰学会放下防备的一大关键环节在于视频会议系统里的人偶过于真实。
那么现在的“数据克隆技术”到底有多真?一起来看几个例子。
就比如菲莲娜讲中文的小视频就来自一款爆红AI专用工具——HeyGen。
音质嘴型简直完美还原,网民看了以后都吓得直喊妈:
HeyGen的前沿技术展示中,和数字克隆技术实时聊天也已成为实际。
AI语音识别层面,最近很火的是一家称为11Labs(ElevenLabs)的新成立公司。
11Labs不但能完成29个语种的视频语音形成,并且只需短至1分钟音效素材,就能很好地“复制”任何一个人的声响,语气、情绪波动都可以效仿细致的那类。
关键在于,目前这种AI复制术不但真实性越拉越满,门坎也在慢慢减少……
比如像这类开源软件,已经能够一下子实现实时视频换脸。
新项目首页列有许多现成不一样人面部实体模型,你不喜欢还可以自己训练算法。
“数据克隆版的人即将来临”
也许是遭受这一事件和前不久菲莲娜成Deepfake受害人事件的影响,以上这一即时变脸新项目再获关心,还新鲜的冲上了GitHub发展趋势榜。
就在那该项目的issues中,许多网友的不满情绪早就弥漫着许久。
但就像很多网友所提到的那般,技术性并没有善恶之分。而且更现实问题在于,开弓没有回头箭。
于是很多人把关注的焦点,放在了“怎样防御力”这件事情上。
除开大量标准与政策的制定,从专业的角度来讲,Nature就在那“2024最值得关注的七项技术性”一文中提到:
让开发商在AI工具中添加隐型图片水印体制也许是一种计划方案。
而从企业的角度来讲,保持警惕,成为了AIGC技术性暴发时期无法回避的命题。
香港警方同样在此次事件中指出,将扩大预警系统,以提早警示、阻拦客户向行骗有关帐户转移资产。
但是,Deepfake假CFO骗光企业1.8亿这种事情,多少还是有点过于吓人。
以至于许多网友提出了质疑:
这么大一个企业,也没点风险控制措施?该不会有内鬼吧。
那样,你们怎么看?
参考链接:[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage[2]https://twitter.com/garymarcus/status/1754188331188130201
中超北京国安4-1青岛西海岸 恩加德乌头球建功李可王子铭破门
作者: 范涵 2020-6-6法甲兰斯2-3图卢兹 阿基耶梅破门未能扮演救世主无奈吞下败局
作者: 徐欣悦 2023-8-17扫一扫发现更多
网友评论更多
18427姚若涵
——法夫尔谈致力于赛事
2023-5-8
薛悠悠:最终,快船队高管准备进一步谈妥快船球员詹皇·哈登和保罗·乔冶的续签情况,在其中哈登的合同书在2023-2024赛季结束后宣布期满,杜兰特自己针对新合同并没坚持不懈规定一定是顶薪合同续签,杜兰特希望能够得到快船队高管最起码的尊重,预估一个新的合同书将在3年1亿美元左右,快船队为了显示对哈登的重视有可能会对哈登的合同中最终一个赛季添加球员选项。而乔冶的续签状况就显得比较太复杂了,快船队在之前续签了团队大哥科怀·莱昂纳德,实际合同书在3年1.52亿美金,因此快船队高管不给乔冶超出伦纳德的合同书,而乔冶自身希望可以获得一份4年顶薪合同,彼此目前就续签产生了分歧坚持不下,但快船队高管充满信心在今年夏天的夏窗和乔治进行续签。
赖博文:迄今为止,郑家榆没有回复,都没有受到任何惩罚,仍然像什么事情都没发生一样再次直播间。如果是这样都可以混过去,那她以后更明目张胆了。
21626林钰萱
2023-5-8
孔博雅:瓦拉内在2021年的夏季转会窗加盟曼联,在来到ac米兰后,玩家变成了队内的主力军,都是足球队后防线的关键所在球员之一,要为足球队登场的94比赛里,打入2球,奉献1次助攻,玩家有着很好的主要表现,对于球队的后防有着很好的提高。瓦拉内有着出色的防守能力,是一名拥有出色整体实力的后卫玩家。
田雅菲:
19172郑悠馨
2020-9-18
程文涵:安切洛蒂一直都在追求中卫的最后一块板图,并非别人不太好,反而是哈兰德正赶上了安切洛蒂针对中卫区域的渴望,而哈兰德恰好来到利物浦,也使安切洛蒂看见了中卫存在传控管理体系的必要性。因此安切洛蒂甘愿让队友为哈兰德服务项目。
孙茜雨:多特蒙德队史8次斩获法国顶级联赛总冠军,5次斩获德国杯总冠军,并且在1997年夺得西甲冠军,那也是足球队唯一一次西甲冠军。巴黎圣日耳曼本赛季欧冠成功从死亡小组中突围,并且在淘汰赛中连续取代埃因霍温、马竞雄心不变和巴黎圣日尔曼杀入决赛,认可度十足。多特蒙德近期10场欧冠比赛仅丢7球,其中还有5场维持零封,胡梅尔斯和施洛特贝克的中卫组成变成多特蒙德后防线的如意金箍棒。多特蒙德荣誉元老斯图里奇将在本赛季结束后离开,这场比赛同是斯图里奇意味着多特蒙德的最后一舞。