第二次“AI世界大战”

作者：凯德·梅斯、凯伦·韦斯、尼科·格兰特、麦克·艾萨克 原标题：自我、恐惧与金钱：人工智能的导火索是如何点燃的 链接：编者｜景宇 编者按：六月今年，《凡尔赛条约》的签署似乎证明残酷的第一次世界大战正式结束，持久的和平即将到来。

只有法国的斐迪南福煦元帅预言：这不是和平，而是二十年的休战。

元帅的话应验了。

1999年，德国进攻波兰，第二次世界大战正式开始。

将这段战争史搬到当前火热的人工智能战争中，我们可以发现两者之间惊人的相似之处。

看似OpenAI掀起的AI+大模型浪潮从去年就开始了，但实际上“战争”的种子早在八年前马斯克与谷歌创始人拉里·佩奇的“AI辩论”中就埋下了。

8年间，马斯克、彼得·蒂尔、萨姆·奥尔特曼、拉里·佩奇、戴密斯·哈萨比斯、盖茨、萨提亚·纳德拉，这些人物都与热门AI公司OpenAI、Anthropic、微软、DeepMind紧密相连。

他们之间的联盟最终催生了前后第一次人工智能战争，以及2006年和2010年的大型模型战争，重塑了人工智能战争的图景。

驱动它的是恐惧、自我和金钱。

埃隆·马斯克 (Elon Musk) 7 月份庆祝了自己的 44 岁生日，他的妻子在加利福尼亚州一个布满小木屋的葡萄酒之乡度假村举办了一场为期三天的派对。

只有家人和朋友，孩子们在纳帕谷的高档住宅中奔跑。

那是在 Twitter 成为 X 之前的几年，特斯拉也迎来了盈利的一年。

马斯克和他的妻子塔露拉·莱利（Talulah Riley）——一位女演员，在 HBO 的科幻剧集《西部世界》中扮演一个美丽但危险的机器人——距离第二次婚姻认输还有一年。

年。

派对嘉宾拉里·佩奇拉里佩奇仍然是谷歌首席执行官。

人工智能几年前才引起公众的注意，当时它被用来识别 YouTube 上的猫，准确率达到 16%。

第一晚晚餐后，当马斯克和佩奇坐在池畔火坑旁时，人工智能成为了一个重要的话题。

这两位亿万富翁已经是十多年的朋友了，马斯克有时开玩笑说，他偶尔会在玩了一晚上的电子游戏后倒在佩奇的沙发上。

但那个晴朗的夜晚很快就变得充满争议，两人争论人工智能最终会增强还是毁灭人类。

随着天气持续到寒冷的时刻，讨论变得更加激烈，30 多名参加聚会的人中的一些人凑过来倾听。

十多年来，佩奇一直患有声音异常，他低声描述了他对数字乌托邦的憧憬。

他说，人类最终将与人工智能机器融合。

有一天，将会有多种智能争夺资源，优胜劣汰。

马斯克说，如果发生这种情况，我们就完蛋了。

机器会毁灭人类。

佩奇先生带着沮丧的声音，坚持追求他的乌托邦。

最后，他称马斯克为“物种主义者”，是一个偏爱人类而不是未来数字生命形式的人。

马斯克后来说，这种侮辱是“最后一根稻草”。

随着夜色渐渐散去，人群中的许多人似乎感到震惊，甚至觉得好笑，认为这只是硅谷聚会上经常爆发的又一场深奥辩论。

但八年后，两人之间的争论似乎有先见之明。

人工智能究竟会增强世界还是毁灭世界——或者至少会造成严重伤害——这一问题引发了硅谷创始人、聊天机器人用户、学者、立法者和监管机构之间关于该技术是否应该受到限制或释放的争论。

继续争论。

这场辩论让世界上一些最富有的人相互对立：马斯克、佩奇、Meta 的马克·扎克伯格、科技投资者彼得·泰尔、微软的萨蒂亚·纳德拉和 OpenAI 的萨姆·奥尔特曼。

所有人都在争夺这一业务的份额（有一天可能价值数万亿美元）以及塑造它的权力。

这场竞争的核心是一个令人费解的悖论。

那些自称最担心人工智能的人，才是最有决心创造人工智能、享受人工智能财富的人。

他们相信只有他们才能阻止人工智能危及地球，从而证明了自己的雄心。

那年夏天的聚会结束后不久，马斯克和佩奇停止了讲话。

几周后，马斯克与当时经营一家科技孵化器的奥特曼以及几名研究人员在加利福尼亚州门洛帕克瑰丽酒店的一间私人房间里共进晚餐，该酒店是该合资企业附近的一个热门交易地点。

山路上的首都办公室。

那次晚宴促成了当年晚些时候一家名为 OpenAI 的初创公司的成立。

在马斯克和其他资助者数亿美元的支持下，该实验室承诺保护世界免受佩奇愿景的影响。

OpenAI 凭借其 ChatGPT 聊天机器人从根本上改变了科技行业，并向世界介绍了人工智能的风险和潜力。

据两位熟悉该公司最新一轮融资的人士透露，OpenAI 的估值超过 1 亿美元，尽管马斯克与奥特曼的合作并未取得成功。

两人再也没有说过话。

“存在分裂、不信任和自负，”奥特曼说。

“人们越接近同一个方向，分歧就越有争议。

你可以在教派和宗教团体中看到这一点。

最亲近的人之间也可能发生激烈的争吵。

”上个月，这场内讧来到了OpenAI董事会。

叛军董事会成员试图驱逐奥特曼，因为他们相信他们不能再相信他能够构建造福人类的人工智能。

在混乱的五天里，OpenAI 看起来似乎要崩溃了，直到董事会在大笔投资者和威胁要跟随 Altman 下台的员工的压力下做出了让步。

OpenAI 内部的戏剧让世界第一次看到那些将决定人工智能未来的人之间的激烈战斗，但在 OpenAI 濒临崩溃的几年前，一场鲜为人知但激烈的技术控制权争夺战正在上演在硅谷的竞争中，这些技术正在迅速重塑世界，从如何教育儿童到如何进行战争。

《纽约时报》采访了 80 多名高管、科学家和企业家，其中包括两名参加过 2016 年马斯克生日派对的人，讲述了这个关于野心、恐惧和金钱的故事。

DeepMind 的诞生 纳帕谷派对的五年前，也就是猫在 YouTube 上取得突破的两年前，34 岁的神经科学家 Demis Hassabis 走进 Peter Thiel 在旧金山联排别墅举办的鸡尾酒会，意识到自己赚了很多钱。

蒂尔的客厅里有一个棋盘，可以俯瞰城市的美术宫和天鹅池。

哈萨比斯博士曾是 14 岁以下组世界第二好的球员。

“我为这次会议准备了一年，”哈萨比斯博士说。

“我认为这将是我独特的魅力：我知道他喜欢国际象棋。

”是一台可以做大脑能做的任何事情的机器。

当时很少有人对人工智能感兴趣。

经过半个世纪的研究，人工智能领域未能提供任何远程接近人类大脑的东西。

尽管如此，一些科学家和思想家仍然对人工智能的缺点感到担忧。

许多人，比如这三位来自英国的年轻人，都与互联网哲学家、自学成才的人工智能研究员埃利泽·尤德科斯基 (Eliezer Yudkowsky) 有着联系。

尤德科夫斯基是一个自称为理性主义者或后来的有效利他主义者的团体的领导人。

他们相信人工智能可以找到治疗癌症或解决气候变化的方法，但他们担心人工智能机器人可能会做他们的创造者没有想到的事情。

理性主义者认为，如果机器变得比人类更聪明，它们就会背叛它们的创造者。

泰尔通过早期对 Facebook 的投资以及早期与马斯克在 PayPal 的合作而变得极其富有。

他对奇点产生了兴趣，这是科幻小说中的一个比喻，描述智能技术不再受人类控制的时刻。

在蒂尔先生的资助下，尤德科斯基先生扩大了他的人工智能实验室，并举办了关于奇点的年度会议。

几年前，哈萨比斯博士的一位同事会见了尤德科斯基先生，尤德科斯基先生为他们赢得了在一次会议上发言的机会，确保他们会被邀请参加泰尔先生的聚会。

Yudkowsky 先生向 Thiel 先生介绍了 Hassabis 博士。

哈萨比斯博士的聚会上的许多人都会试图从主人那里榨取钱财。

他的策略是安排另一次会议。

他告诉蒂尔先生，主教和骑士之间存在着深刻的紧张关系。

这两件棋子的价值相同，但最优秀的棋手都知道，他们的能力相差甚远。

高效的。

第二天，蒂尔先生被迷住了，邀请所有人回来，他们聚集在厨房里。

他们的主人刚刚结束了早晨的锻炼，穿着闪亮的运动服，仍然大汗淋漓。

管家递给他一杯健怡可乐。

三人提出了他们的建议，很快蒂尔先生和他的风险投资公司同意向他们的初创企业投资 10,000 英镑（约合 10,000 美元）。

他是他们的第一位主要投资者。

他们将公司命名为 DeepMind，这是对“深度学习”的认可，“深度学习”是人工智能系统通过分析大量数据来学习技能的一种方式；神经科学；和来自科幻小说《银河系漫游指南》超级计算机的深层思考。

那年秋天，他们正在建造他们的梦想机器。

他们全心全意地相信，因为他们了解风险，所以他们处于保护世界的独特地位。

“我不认为这是一个矛盾的立场，”DeepMind 三位创始人之一穆斯塔法·苏莱曼 (Mustafa Suleyman) 说。

“这些技术可以带来巨大的好处。

我们的目标不是消除它们或暂停它们的发展。

我们的目标是减轻缺点。

在赢得泰尔先生的青睐后，哈萨比斯博士逐渐进入了马斯克先生的轨道。

大约两年后，他们在蒂尔投资基金组织的一次会议上见面，该基金也向马斯克的公司 SpaceX 投资。

哈萨比斯博士带领参观了 SpaceX 总部。

随后，两人在天花板上悬挂着火箭外壳的自助餐厅共进午餐并交谈。

马斯克解释说，他的计划是殖民火星，以逃避地球上的人口过剩和其他危险。

哈萨比斯博士回答说，只要超级智能机器不跟踪并消灭火星上的人类，这个计划就会有效。

马斯克先生无语了。

他没有想到那种特殊的危险。

马斯克先生很快与泰尔先生一起投资了 DeepMind，这样他就可以更接近这项技术的创造。

DeepMind 资金雄厚，聘请了专门研究神经网络和根据人脑图像创建的复杂算法的研究人员。

神经网络本质上是一个巨大的数学系统，它需要花费几天、几周甚至几个月的时间来识别大量数字数据中的模式。

这些系统首次开发于 20 世纪 50 年代，可以学习自行处理任务。

例如，在分析了数百个信封上潦草的姓名和地址后，他们能够阅读手写文本。

DeepMind 进一步发展了这个概念。

它构建了一个系统，可以学习玩 《太空入侵者》、《Pong》 和 《Breakout》 等经典 Atari 游戏，以展示可能性。

这引起了另一家硅谷巨头谷歌的注意，特别是拉里·佩奇的注意。

他看到了 Deep Mind 机器玩 Atari 游戏的演示。

他想进去。

人才拍卖 今年秋天，多伦多大学 64 岁的教授杰弗里·辛顿 (Geoffrey Hinton) 和两名研究生发表了一篇研究论文，向世界展示了人工智能的能力。

他们训练了一个神经网络来识别常见的物体，例如花、狗和汽车。

科学家们对 Hinton 博士和他的学生开发的技术的准确性感到惊讶。

据三位知情人士透露，这家中国互联网巨头向 Hinton 博士和他的学生提供了 10,000 美元的入职条件。

辛顿博士拒绝了，但这笔钱引起了他的注意。

这位在剑桥接受过教育的英国侨民除了偶尔在微软和谷歌工作外，大部分职业生涯都在学术界度过，他并不是特别受金钱驱动。

但他有一个神经分歧的孩子，而钱意味着经济安全。

“我们不知道我们值多少钱，”辛顿博士说。

他咨询了律师和收购方面的专家，并提出了一个计划：“我们要组织一次拍卖，然后我们就把自己卖掉。

”此次拍卖将在太浩湖哈拉斯酒店和赌场举行的年度人工智能会议期间举行。

。

大型科技公司正在注意到这一点。

谷歌、微软、百度和其他公司开始相信，神经网络是一条通向机器的道路，机器不仅可以看，还可以听、写、说，并最终思考。

佩奇先生在他公司的人工智能实验室 Google Brain 中看到了类似的技术，并认为辛顿博士的研究可以改善他的科学家的工作。

他给了谷歌工程高级副总裁艾伦·尤斯塔斯（Alan Eustace）一张相当于一张空白支票，可以雇佣他需要的任何人工智能专家。

拍卖前一天晚上，大脑实验室主任尤斯塔斯先生和杰夫·迪恩飞往太浩湖，带辛顿博士和他的学生在现场的一家牛排馆吃晚饭。

迪恩博士回忆说，旧香烟的味道太浓了。

他们提出了来谷歌工作的理由。

第二天，辛顿博士在他的酒店房间里进行了拍卖。

由于背部旧伤，他很少坐着。

他把一个垃圾桶倒放在桌子上，把笔记本电脑放在上面，看着接下来两天的出价滚滚而来。

谷歌提出了报价。

微软也是如此。

随着价格上涨，DeepMind 迅速退出。

根据拍卖的详细文件，这家行业巨头将出价提高到 10,000 美元，然后提高到 10,000 美元。

当价格超过 10,000 美元时，微软退出，但以 10,000 美元的价格重新加入竞标。

“我们感觉就像在看一部电影，”辛顿博士说。

随后微软第二次退出。

只剩下百度和谷歌了，他们把竞价推到了1万美元，1万美元。

最终，Hinton 博士和他的学生以 10,000 美元的价格停止了拍卖。

出价仍在攀升，但他们想为谷歌工作。

而且钱是惊人的。

这是一个明显的迹象，表明财力雄厚的公司决心收购最有才华的人工智能研究人员——DeepMind 的哈萨比斯博士并没有忽视这一点。

他一直告诉员工，DeepMind 将仍然是一家独立的公司。

他相信这是确保他的技术不会变成危险事物的最佳方法。

但随着大型科技公司加入人才争夺战，他认为自己别无选择：是时候出售了。

据三位知情人士透露，谷歌和 Facebook 正在考虑在今年年底收购伦敦实验室。

Hassabis 博士和他的联合创始人坚持两个条件：DeepMind 的技术不能用于军事目的，其 AGI 技术必须由技术专家和伦理学家组成的独立委员会监督。

谷歌出价6.5亿美元。

Facebook 的马克·扎克伯格向 DeepMind 的创始人提供了更高的薪酬，但他没有同意这些条款。

DeepMind 卖给了谷歌。

扎克伯格先生决心建立一个自己的人工智能实验室。

他聘请了法国计算机科学家 Yann LeCun 来运行该项目，该科学家也进行了开创性的人工智能研究。

Hinton 博士拍卖一年后，扎克伯格和 LeCun 博士飞往太浩湖参加同一场人工智能会议。

当扎克伯格穿着袜子在哈拉斯赌场的套房里走来走去时，他亲自采访了顶尖研究人员，他们很快就赚到了数百万美元的薪水和股票。

人工智能曾一度被嘲笑。

现在，硅谷最富有的人正在花费数十亿美元以避免被抛在后面。

道德委员会的失落 当马斯克投资 DeepMind 时，他打破了自己的非正式规则——他不会投资任何不是他自己经营的公司。

当他在生日后与佩奇先生发生口角大约一个月后，他再次与他的前朋友兼亿万富翁同事面对面时，他的决定的缺点已经很明显了。

这次会议是 DeepMind 道德委员会于 2018 年 8 月 14 日举行的第一次会议。

该委员会是在初创公司创始人的坚持下成立的，以确保他们的技术在出售时不会造成任何伤害。

据三名知情人士透露，成员们在 SpaceX 马斯克办公室外的一间会议室举行会议，从一扇窗户可以看到他的火箭工厂。

但这就是马斯克先生的控制结束的地方。

当谷歌收购 DeepMind 时，它收购了整个公司。

马斯克先生下台了。

他在经济上处于领先地位，但他并不高兴。

目前牢牢控制 DeepMind 的三位谷歌高管也出席了会议：佩奇先生；谢尔盖·布林 (Sergey Brin)，谷歌联合创始人、特斯拉投资者；以及谷歌前董事长埃里克·施密特。

其他与会者包括 PayPal 的另一位创始人里德·霍夫曼 (Reid Hoffman) 和研究存在风险的澳大利亚哲学家托比·奥德 (Toby Ord)。

DeepMind 创始人报告称，他们正在推进工作，但他们意识到该技术存在严重风险。

DeepMind联合创始人Suleiman先生发表了题为《The Pitchforkers Are Coming》的演讲。

他告诉董事会，人工智能可能会导致虚假信息泛滥。

他担心，随着这项技术在未来几年取代无数工作岗位，公众将指责谷歌窃取了他们的生计。

他认为，谷歌需要与数百万无法再找到工作的人分享其财富，并提供“全民基本收入”。

马斯克先生同意了。

但很明显，他的谷歌客人还没有准备好开始重新分配财富。

施密特表示，他认为这种担忧完全没有根据。

佩奇先生用他特有的低声表示同意。

他相信人工智能创造的就业机会将多于它夺走的就业机会。

八个月后，DeepMind 取得了震惊人工智能界和世界的突破。

一台名为 AlphaGo 的 DeepMind 机器在古老的围棋游戏中击败了世界上最好的棋手之一。

这场比赛通过互联网进行了现场直播，全球有2亿人观看了比赛。

大多数研究人员认为，人工智能还需要 10 年的时间才能智能到能够做到这一点。

理性主义者、有效的利他主义者和其他担心人工智能风险的人声称，计算机的胜利证实了他们的恐惧。

“这是人工智能发展速度超出许多专家预期的又一个迹象，”即将加入 DeepMind 担任“人工智能安全”研究员的维多利亚·克拉科夫纳 (Victoria Krakovna) 在博客文章中写道。

DeepMind 的创始人越来越担心谷歌会如何处理他们的发明。

几年前，他们试图脱离公司。

谷歌的回应是增加 DeepMind 创始人及其员工的工资和股票奖励。

他们留在原地。

伦理委员会从未召开过第二次会议。

分手 马斯克深信佩奇对人工智能的乐观态度是完全错误的，并对失去 DeepMind 感到愤怒，因此建立了自己的实验室。

OpenAI 成立于年底，就在他在硅谷瑰丽酒店遇见 Sam Altman 几个月后。

马斯克向该实验室投入了大量资金，他在 PayPal 的前朋友霍夫曼和泰尔也加入了进来。

三人及其他人承诺为该项目提供 10 亿美元，当时 30 岁的奥特曼将帮助运营该项目。

为了让他们开始，他们从谷歌挖来了 Ilya Sutskever。

（Sutskever 博士是 Google 在 Hinton 博士的拍卖会上“购买”的研究生之一。

）最初，马斯克希望将 OpenAI 作为非营利组织运营，不受 Google 和其他公司的经济激励。

但当谷歌以其 AlphaGo 绝技震惊科技界时，马斯克改变了对公司运营方式的看法。

他迫切希望 OpenAI 发明一些能够激发世界想象力并缩小与谷歌差距的东西，但作为一个非营利组织，它并没有完成这项工作。

据四位知情人士透露，到今年年底，他制定了一项计划，从奥特曼和其他创始人手中夺取该实验室的控制权，并将其转变为商业运营，与特斯拉联手并依靠这家汽车公司。

超级计算机正在开发中。

与此事有关。

当奥特曼等人反击时，马斯克辞职并表示将专注于特斯拉的人工智能工作。

三名参加会议的人士表示，今年 2 月，他在一家改装卡车工厂的初创公司办公室顶层向 OpenAI 员工宣布离职。

当他表示 OpenAI 需要加快步伐时，会议上的一位研究人员反驳说，马斯克先生太鲁莽了。

马斯克称该研究人员为“混蛋”，然后带着一大笔财富愤然离去。

OpenAI 突然需要新的资金。

奥特曼飞往太阳谷参加会议，并会见了微软首席执行官萨蒂亚·纳德拉(Satya Nadella)。

合作似乎很自然。

奥特曼先生认识微软首席技术官凯文·斯科特。

微软从 OpenAI 董事会成员霍夫曼手中收购了 LinkedIn。

纳德拉先生告诉斯科特先生去完成它。

该交易于 完成。

Altman 先生和 OpenAI（在其最初的非营利组织下组建了一家营利性公司）获得了 10 亿美元的新资本，微软拥有了将人工智能构建到其庞大的云计算服务中的新方法。

并非 OpenAI 内部的每个人都感到高兴。

OpenAI 诞生时，Dario Amodei 是一名与有效利他主义社区有联系的研究员，他就在 Rosewood。

阿莫代博士一边说话一边不停地用手指捻弄自己的卷发，他正在领导一项实验室工作，致力于构建一种称为大型语言模型的神经网络，可以从大量数字文本中学习。

它通过分析无数的维基百科文章、数字图书和留言板自行生成文本。

它还有一个不幸的习惯，就是编造事情。

它被称为 GPT-3，于 2017 年夏天发布。

OpenAI、谷歌和其他公司的研究人员相信，这种快速改进的技术可能是通向 AGI 的道路。

但 Amodei 博士对微软的交易并不满意，因为他认为这将引导 OpenAI 走向真正的商业方向。

据五位知情人士透露，他和其他研究人员前往董事会试图罢免奥特曼。

失败后，他们离开了。

与 DeepMind 的创始人一样，他们担心新的企业霸主会将商业利益置于安全之上。

2017 年，这个由大约 15 名工程师和科学家组成的团队创建了一个名为 Anthropic 的新实验室。

该计划是按照有效的利他主义者认为应该实现的方式构建人工智能，并进行非常严格的控制。

Anthropic 发言人 Sally Aldous 表示：“Anthropic 的联合创始人并没有试图将 Sam Altman 从 OpenAI 中剔除。

” “联合创始人自己得出的结论是，他们希望离开 OpenAI 创办自己的公司，并将此事告知 OpenAI 的领导层，并在几周内就双方商定的条款进行了退出谈判。

” Anthropic接受了亚马逊40亿美元的投资，两年后又获得了谷歌20亿美元的投资。

OpenAI 又从微软获得 20 亿美元资金后，Altman 和另一位高管格雷格·布罗克曼 (Greg Brockman) 拜访了比尔·盖茨 (Bill Gates) 位于西雅图郊外华盛顿湖的豪宅。

这位微软创始人不再参与公司的日常事务，但仍与公司高管保持定期联系。

晚餐时，盖茨先生告诉他们，他怀疑大型语言模型是否可行。

他表示，在该技术完成一项需要批判性思维的任务（例如通过 AP 生物学测试）之前，他将保持怀疑态度。

五个月后，即 2017 年 8 月 24 日，Altman 先生和 Brockman 先生回来了，带来了一位名叫 Chelsea Voss 的 OpenAI 研究员。

沃斯女士在高中时曾在国际生物奥林匹克竞赛中获得奖牌。

纳德拉和其他微软高管也出席了会议。

在盖茨先生客厅外的巨大数字显示屏上，OpenAI 团队展示了一项名为 GPT-4 的技术。

布罗克曼先生对该系统进行了多项选择的高级生物学测试，沃斯女士对答案进行了评分。

第一个问题涉及极性分子，即一端带正电荷、另一端带负电荷的原子团。

系统回答正确并解释了它的选择。

“它只是经过训练来提供答案，”布罗克曼先生说。

“谈话的本质几乎神奇地消失了。

”换句话说，它所做的事情并不是他们真正设计的目的。

有 60 个问题。

GPT-4 只有一个错误答案。

盖茨先生从椅子上坐起来，睁大了眼睛。

当研究人员向他展示成为现代个人计算机基础的图形用户界面时，他也有类似的反应。

他认为GPT是革命性的。

到 10 月，微软将该技术添加到其在线服务中，包括 Bing 搜索引擎。

两个月后，OpenAI 发布了 ChatGPT 聊天机器人，目前每周有 1 亿人使用。

OpenAI 击败了 Anthropic 的高效利他主义者。

佩奇在谷歌的乐观派急于发布自己的聊天机器人 Bard，但人们普遍认为他们在与 OpenAI 的竞争中失败了。

ChatGPT 发布三个月后，谷歌股价下跌 11%。

马斯克先生无处可寻。

但这仅仅是开始。