新智元报道  

编辑:好困 桃子
【新智元导读】AI时代最荒诞的一幕:当老黄正在台上描绘未来时,一个由AI生成的「他」却在台下用一场更火爆的直播进行诈骗。


论直播,AI版黄仁勋,竟碾压了本尊?

周三的GTC 2025大会上,黄仁勋在华盛顿登台激情演讲。

英伟达官方账号,全球同步直播。

刚开播时,在线人数还只有1.2万。

但怪事发生了。

另一个打着「NVIDIA LIVE」旗号的直播,却悄悄聚集了近10万观众。

人数是官方的8倍之多!

然而,这个直播间里,一切都是假的。

不仅直播内容是伪造的,就连台上的「黄仁勋」也是AI生成的。

更离谱的是,这个AI老黄不讲GPU,而是大肆搞起了诈骗。


AI黄仁勋,竟比真身还火

网友Dylan Martin,是第一批察觉到异常的人之一。

他第一时间就在X上发了一篇推文,提醒大家不要上当。

在官方主题演讲20分钟后,已有9万+观众,进入了这场虚假直播间。

因为,不知何故,当你在YouTube搜索「NVIDIA GTC DC」关键词后,其推荐位排在了官方主题账号之上。

右图中另一位网友搜索后,官方直播推荐第一,假直播间排到第二

很多人在不知情的情况下,意外点进了这场由AI生成黄仁勋伪造视频。瞬间,被割韭菜的观众,冲到了9万。

Dylan Martin就是其中的受害者之一,当他进入冒牌直播间后,瞬间傻眼——老黄怎么转行了?

他用Otter AI转录了老黄的讲话,堪称AI界的一大奇观,以下是(部分)演讲稿:

大家好,欢迎来到位于华盛顿特区的NVIDIA GTC大会。 


我是黄仁勋,非常高兴今天能与大家一起深入探索AI图形和计算的未来。 


不过,在正式开始主题演讲之前,我有一个令人兴奋的惊喜要宣布——一个我们迫不及待想分享的消息。 


我们暂时推迟主题演讲几分钟,只为公布一件真正特别的事。 


这不仅仅是一场随机的活动,而是一场庆典,庆祝我们的技术如何推动去中心化的未来,并邀请你参与其中。


这场闹剧的背后,操纵者是一个名为「Offxbeatz」的频道,利用AI换脸和合成语音技术,精准地抓住了观众对GTC大会和黄仁勋本人的高度关注。

他们巧妙地将流量引导至一个精心设计的骗局中,直到最终被平台封禁。

更疯狂的是,演讲中AI老黄太过逼真,声音、动作、容貌几乎和真人一模一样,一些人根本没有看出不对劲。

甚至,还有数千人被骗,11.5万美元(约82万)全被骗走了。

别说普通人了,就连美国电台CNBC也上当了。

只有那些鉴别出AI生成的网友,幸运地躲过了一劫。

还记得四年前,英伟达GTC上秀过的那个「数字版」老黄吗?这一次,也算是给它找到了应用场景。


14秒假老黄,骗过全世界


2021年4月GTC大会,一个假老黄现身自家厨房,一句「欢迎来到GTC」开场,却骗过了全世界。

直到5个月后,英伟达官方才亲自揭秘了镜头中的端倪。

当时,恰是「元宇宙」元年,那一届GTC大会上,老黄放出了首个元宇宙生成平台Omniverse。

谁也没有想到,一开场的老黄,就是Omniverse实现的效果。

全场1小时48分钟的演讲,只有在1:02:41-1:02:55这14秒钟,是数字版老黄。

当时,为了打造这个替身,真人老黄完成了全身3D扫描,甚至连标志性的皮衣也被360°完成捕捉。

面部的动作,则通过Audio2Face工具导入纯音频后即可实现。

针对面部太假的问题,团队又借用Face-Vid2Vid,将老黄本人照片,对应覆盖在CG模型上。

然后,就可以得到一张令人难以辨别,还原真身的面孔了。

最后,舞台上动作的实现,背后还需要一个动捕演员去代劳。

为此,英伟达共录制了长达8小时视频,在此期间,演员一边阅读以前演讲,一边去模仿老黄的动作的表情。

由此,得到最终版老黄替身,在出场后几乎毫无破绽。甚至,连头发丝都是合成的。

要知道,这还是四年前,ChatGPT等大模型还未诞生前的技术,足以以假乱真。

而如今,打造一个逼真的伪造视频,更是信手拈来。

AI视频、AI图像生成大模型、工具爆发,完全可以轻轻松松编造一个任何人的替身。

在这个真假交织,虚实难辨的当下,人们又该如何成为清醒的辨别者?


彩蛋


GTC大会之后,英伟达市值首破5亿美元,再一次破世界纪录。

登上老黄巅峰第二天,老黄便前往韩国APEC首席执行官峰会,与三星CEO李在镕、现代CEO郑义宣约饭。

韩国一家社区炸鸡店,瞬间堵满了各路记者。

老黄、李在镕和郑义宣三人围坐一桌,互相敬酒。祝酒后老黄高喊,要为全场买单。

更有趣的一幕是,在英伟达NVIDIA GeForce 25周年庆典上,老黄搭着郑义宣肩,称两人为「炸鸡啤酒兄弟」。

他还调侃李在镕,「我当年用三星GDDR的时候,你还年轻气盛呢」

参考资料:
https://www.tomshardware.com/tech-industry/fake-nvidia-gtc-stream-hosting-jensen-huang-deepfake-crypto-scam-garners-100-000-youtube-viewers-video-was-even-promoted-above-nvidias-real-event 
https://x.com/DylanOnChips/status/1983204668567134376 
https://x.com/readyforweird/status/1983214660225487296

内容中包含的图片若涉及版权问题,请及时与我们联系删除