西风酒 鱼羊 只想说 凹非寺量子位 | 微信公众号 QbitAI
就吓人！仅因开了一个视频会议系统，立即上当受骗1.8亿线上体育买球。
这也是切切实实早已香港产生的一场违法犯罪：
一家跨国企业中国香港子公司的财会人员线上体育买球，依照“CFO”的指令，给彼此指定账户总共转款线上体育买球2亿港币（折合1.8亿元人民币）。
不曾想，这一刚在视频会议系统里和自己“零距离”聊起得人，完全就是Deepfake出的！
先别着急骂这老线上体育买球铁警觉性过低，Ta也不是没过一丝丝猜疑，可是，这并不是什么行骗界比较常见的一对一视频语音通话——
参与会议的有好多熟面孔，不管是脸或是响声，被告方叙述“每一个人看起来都很真正啊”。
不管怎么讲，这个事情的恐怖程度上，是有些吓住大家了。
利用AI技术性违法犯罪讨论的话题，一时间又成为了各大平台的探讨聚焦点。
冲锋在AI指责一线的马库斯就第一时间拽着大家吃起了瓜：我勒个去，这也是《黑镜》降临了。
深度伪造的牛粪愈来愈真实了。
事情前因后果
我们暂且称这名被骗财会人员为“小杰”，事儿的实际通过是这样子的……
最开始，小杰收到了一封身在美国总公司的“CFO”发送的电子邮件。因为具体内容提及必须实行一项秘密交易，小杰一开始有一些顾虑，并猜疑这也是钓鱼攻击信息内容。
不愿，骗子公司立刻进行下一步运作，邀约小杰开展视频会议系统。
小杰进到视频会议系统后完全被眼前的一幕唬住了：不但企业CFO在，小杰的一些朋友同样在，还线上体育买球有一些外界工作人员。
关键在于，这种假工作同事小杰了解真朋友不论是样子相貌或是响声，都别无二致。
会议上，这一仿冒CFO还要小杰自我介绍，但是在这个过程中大会突然中断。
骗子公司接着又根据即时通信服务平台、电子邮件、一对一视频语音通话与小杰保持联络。
这般连续设套，小杰最后里了犯罪分子的阴谋，依照大会里的标示，分别往5个香港银行账户展开了15次转帐，累计2万港元，其实就是约2560万美金，折合RMB1.8亿。
从骗子公司联络小杰逐渐，整个事件大约经历了一个周，直线上体育买球至小杰以后向总公司核实，才惊觉整个事件不过是一场精心策划的行骗。
之后他们报警求助。警方立即进行调查，发觉大会中除了小杰外的所有参加者，都是骗人的应用公开发布个人图片和声频精彩片段重建的虚拟数字人。
视频里让小杰简单自我介绍并不是真正的在与他互动交流，而只是简单的用虚拟人物下达指令。
警察还表示，犯罪分子曾使用相同的群视频语音通话对策，尝试行骗该企业分部的此外一名员工，一共接触到了两至三名职工。但警方不提供相关她们遭受的详细信息内容。
现阶段此案还在进一步调研中，并未对诈骗犯执行拘捕。
后面在新闻发布会上，香港警方表示已拘捕6名与该类行骗相关工作的人员，且类似案件还有一些：
上年7-9月，有8张被盗的香港身份证被用来办理线上体育买球了90份借款、登记了54个银行帐号；
起码有20次，AI Deepfake被用于效仿身份证上人像图片，以骗得人脸识别程序流程。
AI“复制”多么猛
能够看见，全部案例中，从而让小杰学会放下防备的一大关键环节在于视频会议系统里的人偶过于真实。
那么现在的“数据克隆技术”到底有多真？一起来看几个例子。
就比如菲莲娜讲中文的小视频就来自一款爆红AI专用工具——HeyGen。
音质嘴型简直完美还原，网民看了以后都吓得直喊线上体育买球妈：
HeyGen的前沿技术展示中，和数字克隆技术实时聊天也已成为实际。
AI语音识别层面，最近很火的是一家称为11Labs（ElevenLabs）的新成立公司。
11Labs不但能完成29个语种的视频语音形成，并且只需短至1分钟音效素材，就能很好地“复制”任何一个人的声响，语气、情绪波动都可以效仿细致的那类。
关键在于，目前这种AI复制术不但真实性越拉越满，门坎也在慢慢减少……
比如像这类开源软件，已经能够一下子实现实时视频换脸。
新项目首页列有许多现成不一样人面部实体模型，你不喜欢还可以自己训练算法。
“数据克隆版的人即将来临”
也许是遭受这一事件和前不久菲莲娜成Deepfake受害人事件的影响，以上这一即时变脸新项目再获关心，还新鲜的冲上了GitHub发展趋势榜。
就在那该项目的issues中，许多网友的不满情绪早就弥漫着许久。
但就像很多网友所提到的那般，技术性并没有善恶之分。而且更现实问题在于，开弓没有回头箭。
于是很多人把关注的焦点，放在了“怎样防御力”这件事情上。
除开大量标准与政策的制定，从专业的角度来讲，Nature就在那“2024最值得关注的七项技术性”一文中提到：
让开发商在AI工具中添加隐型图片水印体制也许是一种计划方案。
而从企业的角度来讲，保持警惕，成为了AIGC技术性暴发时期无法回避的命题。
香港警方同样在此次事件中指出，将扩大预警系统，以提早警示、阻拦客户向行骗有关帐户转移资产。
但是，Deepfake假CFO骗光企业1.8亿这种事情，多少还是有点过于吓人。
以至于许多网友提出了质疑：
这么大一个企业，也没点风险控制措施？该不会有内鬼吧。
那样，你们怎么看？
参考链接：[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage[2]https://twitter.com/garymarcus/status/1754188331188130201
扫一扫发现更多
网友评论更多
26956严梓阳
2023-12-12
余欣悦:如何购买高档仿名牌手表天梭力洛克【徽：仿/表+9797 9566】从年初开始到现在，Swatch Art Journey共推出了五个胶囊系列，以展现品牌对具有超前性艺术家们的坚定支持。而Swatch x JEAN-MICHEL BASQUIAT 系列作为五个胶囊系列里的完美收官，在发布前就让表迷们充满希望，发布后一度被敢于的设计以及丰富多彩颜色深深吸引。这个系列共推出三款手表，能够单独购买，也可以选购三联画主题风格套服。如今先追随我们自己的实拍图片，一起来欣赏一下这次的造型艺术联名鞋。
罗悠悠:对于一家近百年名门来讲，不翻修的确不合情理。并且通过皇马巴萨主要从翻修足球场获得更多收益来说，将来欧洲地区各种豪门俱乐部根据进一步翻修足球场来构建经济领域，已是大势所趋。目前来说，欧洲地区的确有多家足球队正在努力翻修足球场。对于此事，大家是怎么看的？
29848侯芷蕾
在加盟巴萨迄今，罗克踹了13场赛事但是只有310min登场，打入2球。罗克对自己的现况不甚满意，乃至非常失望。
2023-4-28
范婧涵:阿斯顿维拉的热情并不是独家代理，还有其他的英超俱乐部对巴克利表达了兴趣爱好。但是，阿斯顿维拉为巴克利给予的一个关键卖点是，他们可以为他提供下赛季参与欧冠比赛的好机会。这对一名球员来说是一个非常有吸引力的发展前景，特别是对于巴克利那样有野心的小将而言。
蔡婧雨:埃因霍温主场面对巴黎圣日耳曼，中国时间周四零晨4区域进行。第一回合，双方以平手完毕，凭着卢克·德容的点球，埃因霍温防止了主场的落败。在小组赛中，埃因霍温并不出色，但却能提早一轮锁住第二名小组出线，巴黎圣日耳曼在“死亡小组”，能够提前小组出线，让许多人感到惊讶。
27333裴雨露
而AC米兰花打算在夏季转会窗引入左边后卫提高球队的阵容，足球队都是对多个总体目标展开了调查，而福法纳是球队觉得适宜的总体目标，足球队觉得玩家有着很好的整体实力，可以很好的提高足球队的中场实力以及球队中场的主力阵容薄厚，为球队在下赛季的比赛时取得成就，因而打算在夏季转会窗引入玩家。
2023-5-4
范婧雨:这场比赛，切尔西队伤兵满营，福法纳、恩昆库、博之轮、奇尔韦尔、沙希德亚、查洛巴及其贝蒂内利均伤缺，该队存在严重的锋乏力难题，在进攻端，足球队只能依赖马克松和斯特林有好的成绩，今年初加盟穆德里克，其表现逐渐好转，本场比赛值得一看。布伦特福德层面，姆贝乌莫和延森都有很强的撞击力。
刘悠馨:欧洲联赛1/4总决赛对战出去，英超联赛双骄都不满意，由于皇家马德里战利物浦和阿森纳战拜仁慕尼黑是称得上身亡组成，特别是在近几个赛季曾没缘欧冠赛场的曼联不易晋级半决赛。就算新赛季的拜仁慕尼黑也有一些不稳，主教练图赫尔也惨然下课了，但是球队在欧冠赛事里的工作经验依然被多方看好。利物浦上个赛季欧联杯登上，也曾多次和皇马交锋，两支球队数次交战利物浦获得4胜3负的战绩，这一点点的优点也难免球队本赛季再次晋升。