西风酒 鱼羊 只想说 凹非寺量子位 | 微信公众号 QbitAI
就吓人！仅因开了一泛亚电竞app官网个视泛亚电竞app官网频会议系统，立即上当受骗1.8亿。
这也是泛亚电竞app官网切切实实早已香港产生的一场违法犯罪：
一家跨国企业中国香港子公司的财会人员，依照“CFO”的指令，给彼此指定账户总共转款2亿港币（折合1.8亿元人民币）。
不曾想，这一刚在视频会议系统里和泛亚电竞app官网自己“零距离”聊起得人，完全就是Deepfake出的！
先别着急骂这老铁警觉性过低泛亚电竞app官网，Ta也不是没过一丝丝猜疑，可是，这并不是什么行骗界比较常见的一对一视频语音通话——
参与会议的有好多熟面孔，不管是脸或是响声，被告方叙述“每一个人看起来都很真正啊”。
不管怎么讲，这个事情的恐怖程度上，是有些吓住大泛亚电竞app官网家了。
利用AI技术性违法犯罪讨论的话题，一时间又成为了各大平台的探讨聚焦点。
冲锋在AI指责一线的马库斯就第一时间拽着大家吃起了瓜：我勒个去，这也是《黑镜》降临了。
深度伪造的牛粪愈来愈真实了。
事情前因后果
我们暂且称这名泛亚电竞app官网被骗财会人员为“小杰”，事儿的实际通过是这样子的……
最开始，小杰收到了一封身在美国总公司的“CFO”发送的电子邮件。因为具体内容提及必须实行一项秘密交易，小杰一开始有一些顾虑，并猜疑这也是钓鱼攻击信息内容。
不愿，骗子公司立刻进行下一步运作，邀约小杰开展视频会议系统。
小杰进到视频会议系统后完全被眼前的一幕唬住了：不但泛亚电竞app官网企业CFO在，小杰的一些朋友同样在，还有一些外界工作人员。
关键在于，这种假工作同事小杰了解真朋友不论是样子相貌或是响声，都别无二致。
会议上，这一仿冒CFO还要小杰自我介绍，但是在这个过程中大会突然中断。
骗子公司接着又根据即时通信服务平台、电子邮件、一对一视频语音通话与小杰保持联络。
这般连续设套，小杰最后里了犯罪分子的阴谋，依照大会里的标示，分别往5个香港银行账户展开了15次转帐，累计2万港元，其实就是约2560万美金，折合RMB1.8亿。
从骗子公司联络小杰逐渐，整个事件大约经历了一个周，直至小杰以后向总公司核实，才惊觉整个事件不过是一场精心策划的行骗。
之后他们报警求助。警方立即进行调查，发觉大会中除了小杰外的所有参加者，都是骗人的应用公开发布个人图片和声频精彩片段重建的虚拟数字人。
视频里让小杰简单自我介绍并不是真正的在与他互动交流，而只是简单的用虚拟人物下达指令。
警察还表示，犯罪分子曾使用相同的群视频语音通话对策，尝试行骗该企业分部的此外一名员工，一共接触到了两至三名职工。但警方不提供相关她们遭受的详细信息内容。
现阶段此案还在进一步调研中，并未对诈骗犯执行拘捕。
后面在新闻发布会上，香港警方表示已拘捕6名与该类行骗相关工作的人员，且类似案件还有一些：
上年7-9月，有8张被盗的香港身份证被用来办理了90份借款、登记了54个银行帐号；
起码有20次，AI Deepfake被用于效仿身份证上人像图片，以骗得人脸识别程序流程。
AI“复制”多么猛
能够看见，全部案例中，从而让小杰学会放下防备的一大关键环节在于视频会议系统里的人偶过于真实。
那么现在的“数据克隆技术”到底有多真？一起来看几个例子。
就比如菲莲娜讲中文的小视频就来自一款爆红AI专用工具——HeyGen。
音质嘴型简直完美还原，网民看了以后都吓得直喊妈：
HeyGen的前沿技术展示中，和数字克隆技术实时聊天也已成为实际。
AI语音识别层面，最近很火的是一家称为11Labs（ElevenLabs）的新成立公司。
11Labs不但能完成29个语种的视频语音形成，并且只需短至1分钟音效素材，就能很好地“复制”任何一个人的声响，语气、情绪波动都可以效仿细致的那类。
关键在于，目前这种AI复制术不但真实性越拉越满，门坎也在慢慢减少……
比如像这类开源软件，已经能够一下子实现实时视频换脸。
新项目首页列有许多现成不一样人面部实体模型，你不喜欢还可以自己训练算法。
“数据克隆版的人即将来临”
也许是遭受这一事件和前不久菲莲娜成Deepfake受害人事件的影响，以上这一即时变脸新项目再获关心，还新鲜的冲上了GitHub发展趋势榜。
就在那该项目的issues中，许多网友的不满情绪早就弥漫着许久。
但就像很多网友所提到的那般，技术性并没有善恶之分。而且更现实问题在于，开弓没有回头箭。
于是很多人把关注的焦点，放在了“怎样防御力”这件事情上。
除开大量标准与政策的制定，从专业的角度来讲，Nature就在那“2024最值得关注的七项技术性”一文中提到：
让开发商在AI工具中添加隐型图片水印体制也许是一种计划方案。
而从企业的角度来讲，保持警惕，成为了AIGC技术性暴发时期无法回避的命题。
香港警方同样在此次事件中指出，将扩大预警系统，以提早警示、阻拦客户向行骗有关帐户转移资产。
但是，Deepfake假CFO骗光企业1.8亿这种事情，多少还是有点过于吓人。
以至于许多网友提出了质疑：
这么大一个企业，也没点风险控制措施？该不会有内鬼吧。
那样，你们怎么看？
参考链接：[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage[2]https://twitter.com/garymarcus/status/1754188331188130201
扫一扫发现更多
网友评论更多
13854王欣悦
该负责人直言了解在网上对大型商场设定10地铁线导向指示牌的分歧，并且表示在五角场商圈设定导向标志的不止是其一家，“百联集团中也有”。
2020-4-11
黎鸿宇:西班牙門將法爾科內表明，羅馬是他最喜歡一个球隊之一，但是每次對陣羅馬時，他就會勤奋竭尽全力。現在他萊切將在本周末迎戰羅馬，這將是一場剧烈的比賽。雖然法爾科內和他的家人全是羅馬粉丝，但是每次對陣羅馬時，他家人都會支持她。他指出，每一次對陣羅馬，他就會体会到一種特殊情绪。并且，他記得穆裏尼奧曾經贊揚過他對陣羅馬的表现。法爾科內說，他來自羅馬，但是每次對陣羅馬時，他就會竭尽全力。他必須超過百分百的勤奋，因為假如他犯錯，很有可能會有些人批評他。法爾科內還談到入選西班牙國家隊的經歷，他說自己非常幸運能夠入選國家隊，但他知道在歐洲杯以前，還拥有更多實力強大一点的門將能够選擇。最後，他談到了自己敬佩的門將，他說原来是漢達諾維奇，現在是斯維拉爾。斯維拉爾近期幾場比賽撲出了一些點球，讓法爾科內十分欽佩。
刘悠悠:
21035王梓涵
2020-2-28
奚俊杰:扎诺蒂本赛季在圣加伦表现十分出色，登场27次，在其中26次先发，打入1球且有2次助攻。并以强大的攻守转换和出色的断球水平而出名，这个赛季实现了75次抢断，排行足球队内第一。扎诺蒂以前在法国U21我国队的表现也十分引人注意。尽管刚满21岁，但是他早已展示出了成熟的标志和出色的防守能力，被队友称之为"小萨内蒂"。
薛雅雯:楚阿梅尼的位置是危害安切洛蒂唯一的疑惑，这决定着一个主力阵容，卢宁、卡瓦哈尔、杰姆斯格、门迪、曼祖基奇、贝尔纳特、维尼修斯、塞尔索和贝林厄姆毫无疑问都会是先发，楚阿梅尼将会是先发。纳乔和卡马文加无疑是皇家马德里主力阵容中的竞争者。
18958吴雅菲
2023-2-28
周馨蕾:
袁茜雨:巴萨队内，排名第二的是38次出场的斯特罗曼，接下来是26次出场的阿尔巴，15次出场的罗伯托，14次出场的特尔施特根。