绿岛影院 AI马斯克，1分钟骗走几十万|贝索斯|巴菲特|特斯拉|ai马斯克|埃隆

智东西（公众号：zhidxcom）编译香草裁剪云鹏绿岛影院

试思一下，当一位顶级企业家向你抛出橄榄枝，“亲口”告诉你目下有一种无风险的样式快速致富，惟一填个表就能赚100万好意思元，你会怎样作念？

要是这个东说念主是马斯克，况且还有BBC为其背书，告诉你这是“一场不为公众所知的时间翻新”呢？

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

淫色网

▲AI马斯克深度伪造视频

警惕性较高的东说念主可能会坐窝嗅到电信欺骗的气味，但对于不常斗殴互联网的东说念主群，要识别出这么的伪造视频并毁坏易。

智东西8月16日音尘，据《纽约时报》报说念，客岁年底，82岁的退休东说念主员Beauchamp看到马斯克宣传一项激进的投资契机，并快乐无风险、快速陈诉。他相干了视频中的公司，在随后几周的一系列贸易中花光了退休金，累计“投资”普及69万好意思元。

接下来的事情可思而知，退休金和这家公司一齐消亡了。

跟着名为Deepfake（深度伪造）的AI时间愈发训诲，雷同的视频充斥在互联网上。据闻明盘考机构德勤估算，深度伪造视频每年将形成数百亿好意思元的欺骗亏本。

监测深度伪造视频的机构Sensity近日作念了一项走访，通过分析2000多段深度伪造视频，发现马斯克还是成为这类视频中最常见的“发言东说念主”。自客岁年底以来，马斯克出目下近1/4的深度伪造欺骗视频中，其中针对加密货币的视频他的出现率更是达到90%。

其他常见的伪造对象，还有盛名的投资东说念主巴菲特、亚马逊独创东说念主贝索斯等。

一、每年欺骗上百亿好意思元，马斯克出现率1/4

为了制造这些视频，欺骗者领先会找到马斯克等东说念主的真确采访视频。比如开篇视频的画面原来来自马斯克在《华尔街日报》禁受的一次采访，驳倒的话题是怎样哄骗AI等时间达成公司的高效管制。

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲原马斯克采访视频

欺骗者会哄骗唇形同步时间（Lip-synching），养息东说念主物的口型，随后使用语音克隆用具添加一个AI复制的语音。

▲唇形同步（图源：《纽约时报》）

终末，部分视频还会添加师法BBC等专科新闻机构的失误图标，这对于普通互联网用户来说也许更有劝服力。

▲新闻标记（图源：《纽约时报》）

究竟有若干这么的深度伪造视频正在网络繁哄传，还是很难准确量化。在Facebook的告白库中搜索这些骗局的常用宣传案牍，会出现数十万条告白，其中有不少皆是深度伪造视频。

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4绿岛影院

▲AI贝索斯深度伪造视频

YouTube也充斥着这类视频。要是在YouTube上搜索“埃隆比特币会议”（Elon Bitcoin conference），你会得到数十个标注着现场直播的视频，但内容上这些皆是事前录制的深度伪造视频。

▲YouTube深度伪造视频（图源：YouTube）

这些“直播”的不雅看东说念主数动辄数十万，但据YouTube说明，欺骗者不错使用“水军”刷东说念主数，幼女如厕东说念主为地夸大这个数字。

本年5月，闻明盘考机构德勤发布对于生成式AI增多深度伪造诓骗风险的申诉，其中提到2023年，金融科技规模的深度伪造事件增多了700%，并展望到2027年，AI将使好意思国的诓骗亏本从2023年的123亿好意思元增多到400亿好意思元，复合年均增长率为32%。

▲生成式AI形成的诓骗亏本增长展望（图源：德勤）

深度伪造视频的数目和影响力越来越大。据监测深度伪造视频的机构Sensity走访，在2000多段深度伪造视频中，马斯克还是成为最常见的“发言东说念主”，出目下近1/4的深度伪造欺骗视频中，其中针对加密货币的视频他的出现率更是达到90%。

Sensity同一独创东说念主Francesco Cavalli以为，这可能是有史以来最大的深度伪造骗局。

二、本钱不超10好意思元，几分钟伪造大批视频

内容上，制作这类视频的本钱并不高，只需要不到10好意思元，就能在几分钟时间内制作出大批伪造视频。

这些AI生成的视频并不完好。马斯克在一些视频好听起来像机器东说念主，他的口型也并不老是保握一致。但这些视频还是能骗过格外多的东说念主，而且时间还一直在不休纠正。

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲AI马斯克深度伪造视频

Sensity走访流露，这类欺骗者主要来自亚洲、东欧国度，使用免费和低价的用具将视频翻译成多种言语，不休将骗局传播到更大范畴。

其中一种常见的套路是宣传失误的AI软件。欺骗者通过让“发言东说念主”宣称这些软件不错产生惊东说念主的投资陈诉，饱读吹方向领先交一小笔钱——一般是250好意思元傍边，然后通过宣称开动投资的价值正在增多等样式，缓缓辅导他们投资更多。

举例鄙人面这段来自特斯拉鼓动大会的视频中，马斯克“展示”了一款由AI驱动的自动贸易产物，该产物每天不错使特定投资翻倍，“只需投资4500兰特，您就能获取每天8000兰特的踏实利润”。（注：兰特是南非的货币单元）

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲AI马斯克深度伪造视频

这些AI欺骗者闲居对准年事较大的互联网用户，他们可能练习加密货币、AI等话题，以及马斯克、巴菲特这些东说念主，但不练习安全的投资样式。

“老年东说念主是一个相配有钱且容易上圈套的群体。”加州大学戴维斯分校科技策动教授、加密货币商场行家Finn Brunton说，“即使莫得外交媒体平台，老年东说念主也一直是欺骗的方向。”

而之是以对准马斯克，则是因为马斯克领有独到的人人“粉丝”群体。策动加密货币社区的行家称，这些东说念主闲居由保守派、反建制派和加密货币心疼者构成，他们每每被新奇的赢利路线所蛊惑——这使他们成为骗局的完好方向。

加密货币社区策动员Molly White称，这群东说念主老是以为，财富的高明对他们是荫藏的，而一朝他们“发现”了这一高明，他们就会以为这是其所需的一切。

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲AI马斯克深度伪造视频

发轫提到的退休东说念主员Beauchamp，在75岁之前是一家加拿大公司的销售代表。他在客岁刚首先使用Facebook，随后看到了一则马斯克在CNN上禁受采访的告白。

固然他坚称我方在CNN官方上也看过这段视频，但据CNN发言东说念主称，马斯克还是好多年没禁受过他们的采访了。

证据Beauchamp先生与视频中提到的公司之间的电子邮件交纪行载，客岁12月，他向这家名为Magna-FX的公司汇款27216好意思元。

Magna-FX让他的投资看起来似乎在升值，甚而让又名销售代理使用软件而已截至了Beauchamp的电脑，假装飘荡资金用来投资。

为了提真金不怕火升值的资金，Beauchamp被奉告要支付3500好意思元的管制费和3500好意思元佣金。他把钱汇出去后，又被奉告还需要支付2万好意思元，智力提真金不怕火其中大要20万好意思元。他再次支付了这笔钱。

终末，Beauchamp用完结退休储蓄，刷爆了信用卡，动用了信用额度，还从姐姐何处借钱来投资和支付用度。但骗子仍一再条款他支付更多笔用度。Beauchamp这才相干了警方。

缺憾的是，这个案件尚未取得任何推崇。

三、平台监管濒临挑战，删视频治标不治本

失误告白之是以盛行，和平台的监管轻浮也脱不开关系。

一些被伪造视频的东说念主提起了法律火器。澳大利亚亿万财主Andrew Forrest对Facebook的母公司Meta提起民事诉讼，指控其在告白业务运营方面存在轻浮。他的深度伪造视频被用在了Facebook告白投放中，他以为这将辅导“无辜用户进行不良投资”。

Meta恢复说念，公司正在查考自动检测系统，以捕捉其平台上的诓骗活动，但同期也称这是一场“猫捉老鼠”的游戏，欺骗者会不休调动策略以走避检测。

YouTube也在罗致一些花式来对应深度伪造视频。本年3月，YouTube更新了计策，条款创作家走漏他们是否使用了AI进行创作，并禁绝诓骗和删改视频。

YouTube在一份声明中提到，本年1-3月时间，公司删除了普及1570万个频说念和普及820万个违背内容计策的视频。但仅仅删除视频仍是倡导不治本的活动，平台需要再行注视我方的审核轨制，从根源惩罚理问题。

结语：深度伪造视频浑浊互联网

数字欺骗的历史，就像互联网同样悠久。但跟着AI时间越来越训诲、AI用具的使用本钱越来越低，哄骗该时间进行欺骗的时间和财富本钱也大幅压缩。以马斯克等名东说念主为主角的新一波深度伪造视频正在浑浊互联网。

跟着时间的不休发展，深度伪造时间大致会变得愈加难以分手，这对平台、监管机构、法律皆刻毒新的条款。

开头：《纽约时报》绿岛影院