马斯克传记作家曝重磅内幕:10年前,他就开始担心AI毁灭人类

周三,马斯克传记作者 Walter Issacson 在《时代》杂志上刊出即将出版的传记部分章节,讲述了马斯克十几年来一以贯之的对 AI 的恐惧和担忧,以及他对人类未来命运的思考,华尔街见闻进行了重点摘录。

如果能拥有超越常人的远见、精力和幸运,以及随之而来的巨额财富,你会做什么?

马斯克的答案是:亲自运营六家公司,保存人类意识的火种,对抗危险的 AI。

周三,马斯克传记作者 Walter Issacson 在《时代》杂志上刊出即将出版的传记部分章节,讲述了马斯克十几年来一以贯之的对 AI 的恐惧和担忧,以及他对人类未来命运的思考,华尔街见闻进行了重点摘录。

马斯克传记作家曝重磅内幕:10年前,他就开始担心AI毁灭人类

对 AI 降临的恐惧

马斯克对 AI 的恐惧,源于 2012 年与 AI 研究员 Demis Hassabis 的一次会面。

当时,马斯克邀请他参观了 SpaceX 工厂,并解释说,自己之所以造能上火星的火箭,是为了在核战争、小行星撞击这样的末日降临时刻,保存人类文明的火种。

Demis 提醒他,末日清单上应该再加一条——AI,机器的智能未来可能超越人类,甚至也许想消灭人类。

马斯克思考了一分钟,然后认为 Demis 是正确的,并立即向 DeepMind 投资 500 万美元,以「监控它在做的事情」。

这次谈话几周后,马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了 DeepMind,而且经常深夜找佩奇聊 AI 对人类的威胁,但后者对此嗤之以鼻。

2013 年,在马斯克的生日派对上,他们展开了一场激烈的辩论。马斯克认为,如果不立刻行动起来、建立保障措施,飞速发展的 AI 可能会让人类灭绝。

但佩奇完全不在乎,他反问道:如果有一天机器在智力甚至意识上超越了人类,那又有什么关系呢?这只不过是进化的下一个阶段而已。他指责马斯克是一个「物种主义者」,偏袒自己所属的物种。

马斯克也大方承认了:

「是的,我他妈就是喜欢人类。(I f-cking like humanity, dude.)」

创办 OpenAI,是为了制衡谷歌

当年年底,佩奇领导下的谷歌计划收购 DeepMind 的消息传到了马斯克耳朵里,他很担心,强大的 AI 如果被佩奇这样不关心人类的人掌握,会发生什么。

所以,他拉来朋友、PayPal 联合创始人 Luke Nosek,想筹钱阻止这笔交易,但没能成功,谷歌在 14 年 1 月完成收购。作为对马斯克担忧的回应,佩奇同意成立一个「安全委员会」,让马斯克和前面提到的 AI 专家 Demis 当了委员,其他成员还包括谷歌董事长 Eric Schmidt、领英联合创始人 Reid Hoffman 等人。

然而,在参加了「安全委员会」第一次也是唯一一次会议后,马斯克变得更加不信任佩奇和谷歌,认为委员会里的人都在胡说八道。他开始密集地组织聚会,讨论如何对抗谷歌和促进 AI 安全。

2015 年 5 月,他还和时任美国总统奥巴马进行了一对一长谈,解释 AI 的风险,并提议总统对 AI 进行监管。但奥巴马并没有采纳他的提议。

于是,OpenAI 创始人 Sam Altman 就在这个时候登场了。马斯克和他都相信,相比由少数大公司掌控 AI,大量相互竞争、相互制衡的 AI 系统更加安全。在一场晚宴上,两个人一拍即合,决定共同创办一家非营利性人工智能研究实验室,并将其命名为 OpenAI。

不过,在 2018 年,由于当时特斯拉也要研发 AI 以驱动其自动驾驶软件,为了规避潜在利益冲突,马斯克无法继续留在 OpenAI。他尝试说服 Altman 把 OpenAI 并入特斯拉,但遭到了拒绝;此外,他也对 OpenAI 逐渐走向商业化的方向非常不满,于是最终与 OpenAI 团队决裂。

回看马斯克如今的商业版图,每家公司都代表着他对 AI 危机的解决方案:SpaceX 可以建造保存文明火种的诺亚方舟;脑机接口公司 Neuralink,可以让人类的肉体之躯变得更加强大;特斯拉每天从汽车摄像头上接收并处理 1600 亿帧视频,这些真实世界数据可以用于「通用人工智能(AGI)」训练,而人形机器人 Optimus 将成为 AGI 的物理载体。种种资源,都可以整合到它的新公司——xAI 里。

今年上半年,OpenAI 引领的 AI 浪潮不仅抢走了马斯克的聚光灯,也让他更加担心,这些被大公司控制得 AI 系统,可能会传播「觉醒文化病毒」,毒害美国青少年的心灵;他还担心,如今那些能够自我学习的 AI 系统可能会对人类产生敌意,以及,用推特数据训练的机器人可能会生产虚假或诈骗信息。

他迫不及待地想要入局,对自己创立并资助了 OpenAI 但现在却被置身事外感到愤恨。AI 是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。

于是,上半年,马斯克对 OpenAI 和 Altman 个人发起了猛烈的攻击,Altman 能理解马斯克的攻击性,在一场采访中,他说马斯克虽然表现得像个混蛋,但他相信他是真的很关心 AI 领域,并且在担忧人类的未来。

马斯克认为,在 AGI 赛道上,自己处于领先的位置。

虽然没能在 AI 浪潮最火的时候赶时髦、做出 AI 聊天机器人。但马斯克相信自己在通往 AGI 的竞赛中仍然领先。

他相信,只能生成文本的聊天机器人作用有限,重点是有智慧的实体机器人。一方面,特斯拉已经有了先进的自动驾驶技术和人形机器人 Optimus;另一方面,推特上数亿名用户的推文和特斯拉车身的摄像头,也为研发 AGI 提供了足够的数据。

所以,他有信心能比 OpenAI 更快创造出 AGI:

「特斯拉在现实世界中的 AI 能力被低估了,想象一下,如果特斯拉和 OpenAI 必须交换任务。他们必须制造自动驾驶汽车,而我们必须制造大型语言模型聊天机器人。谁会赢呢?我们赢。」

直到最近,马斯克仍然在思考如何减少 AI 风险,让人类意识能够代代流传。

他认为,人类的智力水平正在趋于平稳,新生儿已经越来越少。与此同时,计算机的智能却在呈指数级增长,就像「打了类固醇的摩尔定律」。生物脑力与数位脑力相形见绌。

马斯克相信,AI 以不受控的速度独自前行、将人类甩在身后的「奇点时刻」,会比我们预想的更快到来。

「我不能无所事事,随着人工智能的到来,我有点怀疑该不该花那么多时间去考虑推特。当然,我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间,我又不需要赚更多钱什么的。

那我的时间应该花在什么地方?启动星际飞船。现在去火星要紧迫得多。另外,我需要集中精力确保人工智能的安全。这就是我要创办一家 AI 公司的原因。」

矢量AI门户网,优质AI资讯内容平台

(0)
上一篇 2023年9月6日 下午3:25
下一篇 2023年9月8日 下午12:01

相关推荐

  • AI监管新思路:给每个AI注入一个“灵魂”

    人工智能领域的领军人物,包括像 ChatGPT 这样众所周知的“生成式人工智能”的系统架构师,现在都公开表示,担心自己创造的东西可能会带来可怕的后果。许多人现在呼吁暂停人工智能的发展,让国家和机构有时间研究控制系统。

    2023年7月15日
    121
  • 生成式AI全球投融资220亿美元,美国占比89%!OpenAI贡献超60%,中国AI芯片投融资世界第一,超美国两倍

    近几年,生成式人工智能(GenAI)成为了大受追捧的当红炸子鸡。尤其是Stable Diffusion和ChatGPT的出现,显示出LLM在文本、音频、图像等创造和构思能力上已达到与人类持平甚至大大超出的水平,LLM的应用前景十分广阔。

    2023年10月9日
    166
  • 技术大爆炸时代,如何避免AI走向失控?

    AI 的失控,指的是 AI 系统在运行中出现了不可预见的行为或结果,这些结果可能与人类的期望不一致,甚至可能带来负面影响。例如,一个自动驾驶汽车系统出现了故障,导致车辆失控,这将会对驾驶员和其他交通参与者的安全带来严重威胁。又或者,一个 AI 系统误判了某个人的行为,导致该人受到了不公正的待遇或惩罚,这将会对该人的权益和自由带来严重影响。

    2023年8月23日
    108

发表回复

登录后才能评论