Demis Hassabis：智能代理、人工通用智能和下一个重大科学突破

当 Demis Hassabis 向全世界的科学家免费提供 AlphaFold 时，他并没有为其申请专利。对于一家领先的人工智能公司来说，这几乎是一个难以理解的举动。然而，如今，每一种新药都会经过 AlphaFold 的检验——其免费开放使用已推动了超过一千篇学术论文的科学进步。这里真正的革命不仅在于人工智能的强大功能，还在于其分发和使用的方式。所有人都认为，人工智能是一场谁能构建出更强大大脑的竞赛。但哈萨比斯的想法恰恰相反：挑战不仅仅在于打造更大的模型，而是要让这些模型真正发挥作用、易于使用，并能够像我们一样不断学习，而不是每次都从零开始。如今，大多数模型都是“无状态”运行的，也就是说，它们在两个会话之间会忘记一切：每一个提示都是一个全新的开始，就好像它们从未从过去学到任何东西一样。然而，人脑的工作方式却截然不同：在睡眠期间，人脑会重新整理并巩固关键经验——这是哈萨比斯在攻读海马体功能博士学位期间研究的一个细节。2013 年，当 DeepMind 设计出首个能够击败 Atari 电子游戏的程序时，真正的突破之处正是受到了这一生物学理念的启发：该模型在自身内部“重新玩过”最精彩的对局，从获胜的连击中汲取经验。然而，在当今，即使拥有庞大的记忆窗口——数百万个令牌——大多数人工智能系统仍然以粗暴的方式积累数据，无法区分真正重要的信息和背景噪声。每当模型需要寻找正确的信息来做出决策时，都会付出切实的代价。在这一点上，哈萨比斯做了一个令人震惊的比较：尽管当前的模型拥有庞大的“记忆”，但实际上，它们的效率和选择性却不如拥有有限但组织有序的记忆的人类。这就引出了一个颠覆性的观点：仅仅提高处理能力或增加数据量是不够的。我们需要一种全新的学习能力——即适应环境、进行长期推理、建立个人化和有选择性的记忆的能力。举个实际例子？尽管取得了进展，但迄今为止，还没有任何人工智能代理创建出能够称霸世界排名的游戏，尽管如今任何人都可以在半小时内完成一个原型，而这在 17 岁的哈萨比斯那里却需要六个月的时间。它们仍然缺乏赋予作品意义和价值的“灵魂”和深刻创造力：正是这种人类驱动力，能够将工具转化为杰作。然而，这条界线正在变得越来越模糊。哈萨比斯预测，在未来 6 到 12 个月内，我们将看到团队通过使用人工智能代理将生产力提高一千倍，而这还发生在完全自主性真正实现之前。由此产生的问题是：当这些能力不再仅掌握在少数实验室手中，而是通过开源模型得到广泛传播，这些模型小到足以在手机上运行，大到足以解决实际问题时，会发生什么？在这方面，在两周内被开放下载了 4,000 万次的 Gemma 模型仅仅是个开始。对于那些想要实现下一次科学突破的人，哈萨比斯提出了两条规则：寻找研究空间极其庞大的问题——例如蛋白质的构型或围棋的棋局，在这些领域没有任何暴力破解算法能够奏效——并确定一个明确的目标，一个可以进行“攀登”的“目标函数”。然后，你需要大量真正的实验，或者足够的数据来模拟你想要探索的领域。在这种背景下，新型人工智能将不仅仅是“问题解决者”，还可能成为合作科学家：不仅能够找到答案，还能提出全新的问题，例如“发明”下一个值得解决的千年问题。哈萨比斯甚至提出了一项测试：使用 1901 年之前的数据来训练人工智能，看看它是否能像爱因斯坦在 1905 年那样，自行“发现”狭义相对论。最终目标不仅仅是解决棘手问题，而是开辟新的知识领域。这种方法还有一个令人惊讶之处：哈萨比斯不相信存在一个包罗万象的“单一超级大脑”。相反，他设想的是使用专业工具的通用系统——一种人工智能“管弦乐队”，其中每个模型都擅长一项工作，但又能与其他模型协作。对于未来，我们需要的不仅仅是更强大的能力，还需要在使用工具时加强协调和“手工技巧”。如果你想知道，一家真正利用人工智能从事科学研究的初创企业与一家仅仅打包 API 的初创企业之间有何区别，答案就在这里：真正的影响力来自于那些将多个领域的深厚专业知识结合在一起的企业，这些领域不仅包括计算机科学，还包括物理学、生物学和材料学。哈萨比斯最后给出了一条听起来像是挑战的建议：“困难的问题并不比简单的问题更复杂。它们只是以不同的方式表现出困难。如果你只有一次人生，那就把它用在能够在你离开后改变世界的事情上。” 也许在我们仍然处于发展阶段时，通用人工智能就会出现。但真正的问题是：如果你知道明天你的工具可能会在你还在玩游戏的时候改变游戏规则，你今天会创造什么？真正的创新不在于模型的规模，而在于它能让我们提出的问题的质量。如果这种观点为你开启了对人工智能和科学的全新视角，你可以在 Lara Notes 上点击“I'm In”——这是你宣布现在这个想法已成为你的一部分的方式。如果明天你发现自己正在与他人讨论 AlphaFold 或能够提出问题的模型，你可以用 Shared Offline 标记这段对话：因为真正有力的想法总是先从现场聊天中产生。本篇“笔记”源自 Y Combinator 对 Demis Hassabis 的采访，为您节省了 37 分钟的时间。