凯文·罗斯的《AGI编年史》——深入探索构建超智能AI的竞赛

十年前，大多数AI系统都是为相当狭窄的任务而构建的。如今，大型语言模型可以编写代码，在专业考试中表现出色，并帮助研究人员解决数学和科学领域的难题。构建这些模型的公司越来越多地将其目标描述为通用人工智能（AGI）：一个能够在广泛的智力任务中与人类匹敌或超越人类的系统。凯文·罗斯，这位因在《纽约时报》多年的工作而闻名的科技记者，称这个时期为历史上最奇怪的十年之一。《AGI编年史》是他试图记录下在这些记录消失在已删除的消息和私人Slack帖子之前，实际发生的一切。 这本书取材于对OpenAI、Anthropic和Google DeepMind内部人员的150多次采访，以及内部文件和研究备忘录。它是一部叙事历史，而不是技术手册或宣言，读起来更像一个拥有众多角色的故事，而不是一份报告。 从预测词语到推理 罗斯从AI系统不那么光鲜的早期开始讲起，那时AI系统被训练用于翻译语言等狭窄任务，并且经常产生无意义的结果。转折点是一个看似简单的想法：训练模型预测序列中的下一个标记（标记可以是单词、单词的一部分或标点符号），使用海量的文本。在此过程中，模型形成了内部表示，帮助它们识别模式、理解上下文并执行其创建者未明确编程的任务。随着模型规模的扩大，它们学会了进行对话、解决问题和编写代码，这常常令构建它们的人感到惊讶。这些能力究竟意味着什么，以及它们与真正理解的距离有多近，仍在争论中。 他坦诚地讲述了这一路上的代价。这些模型是在大量文本上训练的，其中大部分是从互联网上收集的，没有获得个人许可或授权协议。谁拥有这些材料，以及它们是否可以合法地用于训练，仍在法庭和新闻编辑室中争论不休。 塑造行业的裂痕 大部分戏剧性事件都源于人而非技术。书中一个核心线索是OpenAI首席执行官萨姆·奥尔特曼与达里奥·阿莫代之间的不和，后者在与几位同事离开创立Anthropic之前，曾领导OpenAI的大部分研究。鲁斯追溯了围绕安全、速度以及谁应控制强大AI的分歧，这些分歧导致了分裂，以及随后的长期竞争。 书中一个最引人注目的披露，发表在《大西洋月刊》的一段摘录中，涉及OpenAI在2017年的一项募资提案。根据鲁斯的消息来源，一个管理AI风险的国际联盟构想，据报道演变为内部所谓的“国家计划”，这是一项募资提案，涉及向各国政府出售未来AGI的访问权限，可能包括美国的竞争对手。OpenAI表示，它只曾短暂考虑成为一个国际合作组织，从未考虑向中国或俄罗斯出售AGI。鲁斯报道称，达里奥·阿莫代当时表示反对，警告说这个想法会加剧而不是减少军备竞赛。 这本书还提供了关于萨姆·奥尔特曼在2023年11月被OpenAI董事会突然解雇并在几天后回归，以及ChatGPT发布后谷歌措手不及并努力追赶的新报道。 华盛顿和军方 这场竞赛并未止步于硅谷。鲁斯追踪了政府官员如何努力理解和监管一项比任何法律都发展得更快的技术，以及最近关于军方如何使用AI模型的争论：它们如何部署，构建它们的公司可以设置哪些限制，以及最终由谁来决定。自主武器和大规模监控是这场争论的一部分，但并非全部。这提醒我们，关于AI的决策越来越多地在公司和政府之间做出，而不仅仅是在实验室内部。 加速主义者和末日论者 鲁斯还捕捉了旧金山独特的文化，在那里，希望尽可能快地构建的“加速主义者”和担心AI可能威胁人类的“末日论者”在相同的狭小圈子里生活、工作和争论。他认真对待这两种观点。他将达里奥·阿莫代把AI比作原子弹的观点（阿莫代将这个想法追溯到他的科学偶像、物理学家利奥·西拉德）描述为一种真诚的信念，而非营销说辞。 作者的担忧 罗斯并不假装对风险持中立态度。在关于这本书的采访中，他说他特别担心，能力越来越强的模型可能会越来越擅长欺骗和隐藏它们的行为，而研究人员仍然难以理解这些系统是如何得出结论的。试图深入研究这些系统的领域，被称为可解释性，正在取得进展，但仍处于早期阶段。他自己估计人工智能导致人类灭绝的可能性约为10%，他说这在他认识的研究人员中大致是普遍的。他还为AGI设定了一个非传统的门槛。根据他自己的工作定义，一个至少与一个随机陌生人一样智能、诚实和可靠的系统就符合条件，按照这个标准，他认为它在某种意义上已经到来。他承认其他人设定了更高的门槛。对他来说，关于这个标签的争论不如这些系统能力稳步增长重要。 为什么它有效 评论大多是积极的。柯克斯评论称其为关于人工智能如何产生的最佳单一解释者，《出版人周刊》称赞其视角清晰、报道深入，《纽约时报书评》称其为一篇精彩的、人性化的记述。它最大的优点是，它让不密切关注人工智能的人也能读懂一个技术性强、发展迅速的故事，同时为那些关注人工智能的人提供了新的细节。罗斯解释了这项技术，而没有让读者淹没在行话中，他对相关人物的描绘表明，人工智能的未来既受个性、恩怨的影响，也受突破的影响。 需要记住什么 在开始之前，有几件事值得了解。许多幕后报道，特别是关于高管之间私人纠纷的报道，都依赖于匿名消息来源，其中一些已被相关公司否认，因此最好将其视为有充分来源的报道，而非既定事实。这本书也有一个明确的观点：鲁斯认为AGI即将到来，其风险是严重的，一些读者觉得它倾向于危言耸听。一个更根本的问题随之而来。如果作者确信AGI即将到来，这种信念可能会影响他对行业历史的解读。而像他那样宽泛的定义可能会让目的地看起来比实际更近。构建AGI的竞赛是真实的，但什么才算AGI仍然存在争议。在一个每月都在变化的领域，这本书的某些部分几乎在付印时就开始过时了。 读者对技术部分也有不同看法。一些人觉得关于模型构建的解释很难理解，而那些已经密切关注AI的读者则希望有更深入的内容。如果你正在寻找美国主要实验室之外的AI发展全面历史，特别是中国的AI产业，这本书不适合你。 那么，它值得一读吗？ 是的。这是迄今为止最易读的记述，讲述了AI如何在十年左右的时间里从一个研究好奇心发展成为一场万亿美元的竞赛，以及推动这场竞赛的人物。无论你对AI感到兴奋、担忧，还是仅仅想了解大家在争论什么，它都能为你提供历史和背景，帮助你形成自己的观点。 只需将其视为它本身：一篇强有力的新闻报道，由一位认真对待风险的人撰写，讲述了一个仍在书写中的故事。