快彩

西风酒 鱼羊 只想说 凹非寺量子位 | 微信快彩公众号 QbitAI

就吓人快彩！仅因开了一快彩个视频会议系统，立即上当受骗1.8亿。

这也是切切实实早已香港产生的快彩一场违法犯罪：

一家跨国企业中国香港子公司的财会人员，依照“CFO”的指令，给彼此指定账户总共转款2亿港币（折合1.8亿元人民币）。

不曾想，这一刚在视频会议系统里和自己“零距离”聊起得人，完全就是Deepfake出的！

先别着急骂这老铁警觉性过低，Ta也不是没过一丝丝猜疑，可是，这并不是什么行骗界比较常见的一对一视频语快彩音通话——

参与会议的有好多熟面孔，不管是脸或是响声，被告方叙述“每一个人看起来都很真正啊”。

不管怎么讲，这个事情的恐怖程度上，是有些吓住大家了。

利用AI技术性违法犯罪讨论的话题，一时间又成为了各大平台的探讨聚焦点。

冲锋在AI指责一线的马库斯就第一时间拽着大家吃起了瓜：我勒个去，这也是《黑镜》降临了。

深度伪造的牛粪愈来愈真实了。

事情前因后果

我们暂且称这名被骗财会人员为“小杰”，事儿的实际通过是这样子的……

最开始，小杰收到了一封身在美国总公司的“CFO”发送的电子邮件。因为具体内容提及必须实行一项秘密交易，小杰一开始有一些顾虑，并猜疑这也是钓鱼攻击信息内容。

不愿，骗子公司立刻进行下一步运作，邀约小杰开展视频会议系统。

小杰进到视频会议系统后完全被眼前的一幕唬住了：不但企业CFO在，小杰的一些朋友同样在，还有一些外界工作人员。

关键在于，这种假工作同事小杰了解真朋友不论是样子相貌或是响声，都别无二致。

会议上，这一仿冒CFO还要小杰自我介绍，但是在这个过程中大会突然中断。

骗子公司接着又根据即时通信服务平台、电子邮件、一对一视频语音通话与小杰保持联络。

这般连续设套，小杰最后里了犯罪分子的阴谋，依照大会里的标示，分别往5个香港银行账户展开了15次转帐，累计2万港元，其实就是约2560万美金，折合RMB1.8亿。

从骗子公司联络小杰逐渐，整个事件大约经历了一个周，直至小杰以后向总公司核实，才惊觉整个事件不过是一场精心策划的行骗。

之后他们报警求助。警方立即进行调查，发觉大会中除了小杰外的所有参加者，都是骗人的应用公开发布个人图片和声频精彩片段重建的虚拟快彩数字人。

视频里让小杰简单自我介绍并不是真正的在与他互动交流，而只是简单的用虚拟人物下达指令。

警察还表示，犯罪分子曾使用相同的群视频语音通话对策，尝试行骗该企业分部的此外一名员工，一共接触到了两至三名职工。但警方不提供相关她们遭受的详细信息内容。

现阶段此案还在进一步调研中，并未对诈骗犯执行拘捕。

后面在新闻发布会上，香港警方表示已拘捕6名与该类行骗相关工作的人员，且类似案件还有一些：

上年7-9月，有8张被盗的香港身份证被用来办快彩理了90份借款、登记了54个银行帐号；

起码有20次，AI Deepfake被用于效仿身份证上人像图片，以骗得人脸识别程序流程。

AI“复制”多么猛

能够看见，全部案例中，从而让小杰学会放下防备的一大关键环节在于视频会议系统里的人偶过于真实。

那么现在的“数据克隆技术”到底有多真？一起来看几个例子。

就比如菲莲娜讲中文的小视频就来自一款爆红AI专用工具——HeyGen。

音质嘴型简直完美还原，网民看了以后都吓得直喊妈：

HeyGen的前沿技术展示中，和数字克隆技术实时聊天也已成为实际。

AI语音识别层面，最近很火的是一家称为11Labs（ElevenLabs）的新成立公司。

11Labs不但能完成29个语种的视频语音形成，并且只需短至1分钟音效素材，就能很好地“复制”任何一个人的声响，语气、情绪波动都可以效仿细致的那类。

关键在于，目前这种AI复制术不但真实性越拉越满，门坎也在慢慢减少……

比如像这类开源软件，已经能够一下子实现实时视频换脸。

新项目首页列有许多现成不一样人面部实体模型，你不喜欢还可以自己训练算法。

“数据克隆版的人即将来临”

也许是遭受这一事件和前不久菲莲娜成Deepfake受害人事件的影响，以上这一即时变脸新项目再获关心，还新鲜的冲上了GitHub发展趋势榜。

就在那该项目的issues中，许多网友的不满情绪早就弥漫着许久。

但就像很多网友所提到的那般，技术性并没有善恶之分。而且更现实问题在于，开弓没有回头箭。

于是很多人把关注的焦点，放在了“怎样防御力”这件事情上。

除开大量标准与政策的制定，从专业的角度来讲，Nature就在那“2024最值得关注的七项技术性”一文中提到：

让开发商在AI工具中添加隐型图片水印体制也许是一种计划方案。

而从企业的角度来讲，保持警惕，成为了AIGC技术性暴发时期无法回避的命题。

香港警方同样在此次事件中指出，将扩大预警系统，以提早警示、阻拦快彩客户向行骗有关帐户转移资产。

但是，Deepfake假CFO骗光企业1.8亿这种事情，多少还是有点过于吓人。

以至于许多网友提出了质疑：

这么大一个企业，也没点风险控制措施？该不会有内鬼吧。

那样，你们怎么看？

参考链接：[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage[2]https://twitter.com/garymarcus/status/1754188331188130201