硅谷对能够自主构建的机器人热潮迸发

最近，一群人在旧金山的街道上举着“阻止人工智能竞赛”和“别再建造天网”的标语进行抗议。他们的目标对象是谁？正是那些正在研发能够自我完善的机器人的人工智能公司：这些机器人不仅能够执行命令，还能够学习、优化自身，并且——至少在理论上——有朝一日可能会设计出下一代人工智能。正在让硅谷为之疯狂的论点是这样的：我们面对的不再是为我们服务的计算机，而是能够自主运行的系统。而且，它们的改进速度不再是线性的，而是可能会呈现出指数级增长。这个想法并不新鲜。早在 20 世纪 60 年代，统计学家 I. J. Good 就预言过：“能够设计出比自己更优秀版本的机器，将是人类所需要的最后一项发明。” 然而，几十年来，这仍然只是科幻小说中的场景。直到几年前，关于机器人可以进行真正研究的说法几乎令人发笑：ChatGPT 连加法都做不好，更不用说设计新算法了。如今，情况已经发生了变化。OpenAI 公开表示，将在未来六个月内推出一款“人工智能研究助手”。Anthropic 表示，其 90% 的代码已经由其人工智能模型 Claude 编写。Anthropic 的首席执行官 Dario Amodei 估计，自动编码工具已使内部流程的速度提高了 15% 至 20%。就 Google DeepMind 而言，该公司开发了人工智能代理 AlphaEvolve，该代理已将全球数据中心的计算消耗降低了 0.7%，并将 Gemini 模型的训练速度提高了 1%。但在这些数字背后，有一个问题：这些工作中有多少是真正自主完成的，又有多少是由人类监督的？Anthropic 的政策主管 Jack Clark 是第一个承认当前真正的优先事项是“了解我们在多大程度上实现了人工智能开发各个方面的自动化”的人。因为目前，自动化还处于零散的状态：机器人可以优化小型任务，但还不能完全掌控研究工作。然而，这场竞赛已经开始。OpenAI 的 Sam Altman 为 2028 年设定了目标：打造一名“完全自动化的人工智能研究员”，能够在没有人工干预的情况下取得重大发现。还有其他人，例如 AI Futures Project 的 Eli Lifland，预测到 2032 年，研究工作将实现全面自动化。但也有人对此持保留态度。DeepMind 的 Pushmeet Kohli 指出，目前，“完整的自我改进循环尚不存在”：机器可以进行优化，但它还没有任何值得优化的东西。真正的飞跃并不在于让机器人编写代码，而在于让它拥有所谓的研究“品味”——即像优秀的工程师那样，能够选择有趣的问题并判断哪些问题才是重要的问题。而这正是人类目前尚无法企及的能力。此外，还有资源问题：芯片、能源、资金。只要其中一个因素出现短缺，进步就会停滞不前。然而，即使是在实现自动化的道路上迈出的微小一步，也已经产生了影响。特朗普的前人工智能顾问迪恩·鲍尔（Dean Ball）警告说：“这可能会改变全球人工智能竞争格局，改变技术地缘政治，并产生更多影响。” 公共机构进展缓慢：美国政府机构在税务方面仍然使用 COBOL 这种 20 世纪 60 年代的编程语言。如果人工智能发展得更快，政治就有可能落得更远。而且，关于自复制人工智能的最极端梦想并不需要成为现实才能产生影响：仅仅是这种梦想成为现实的可能性，就已经在转移资源、注意力和权力。研究人工智能风险的瑞典哲学家尼克·博斯特罗姆（Nick Bostrom）如今自称是“温和的宿命论者”。来自 DeepMind、OpenAI、Meta、斯坦福大学和伯克利大学的二十位顶尖研究人员也将人工智能研究的自动化视为该领域面临的最紧迫风险之一。伯尼·桑德斯（Bernie Sanders）在参议院发出警告：“人类可能真的会失去对地球的控制权。” 然而，在这股恐惧背后，也存在着一股炒作浪潮，这正好符合这些技术开发者的意愿。如果你曾认为机器只会简单地完成我们的任务，那么现在是时候更新你的看法了：现在，它们的目标是自我完善，而且这场竞赛已经开始。如果你觉得这个故事与你有关，可以在 Lara Notes 上点击“I'm In”：这不是点赞，而是你表示现在这个想法也属于你的方式。如果你最终与他人谈论这个话题——比如告诉他们 Anthropic 90% 的代码已经是机器人编写的——那么在 Lara Notes 上有一个“Shared Offline”按钮，这个动作可以永久终止这场重要的对话。本条“笔记”源自《大西洋月刊》的一篇文章：相比阅读那篇文章所需的 15 多分钟时间，在这里您节省了将近 45 分钟。