人工智能力量悖论

2018年，OpenAI最先进的语言模型拥有1.17亿个参数。如今，不到六年后，最强大的模型已超过一万亿。为了让你有个概念：所需的计算能力连续十年每年增长十倍。我们面对的是一项比历史上任何其他技术都增长得更快的技术，令人难以置信的是，这种增长的速度本身正在改变世界的主导者。人们总是认为，只有国家才有权监管和管理关键技术。但对于人工智能来说，情况恰恰相反：真正拥有控制权的是企业，而不是政府。而这正是人工智能真正的地缘政治革命。直到几年前，科技公司还被视为简单的服务提供商，是政府手中的工具。然而，如今，OpenAI、谷歌、Meta等公司以及其他少数公司决定了他们的模型可以做什么，谁可以使用它们，如何使用，以及出于何种目的。他们拥有的权力，以前只属于国家。Mustafa Suleyman是这篇文章的作者之一，也是DeepMind的联合创始人，他是最早表示人工智能开发者是“新的地缘政治参与者”的人之一，他们的主权并非来自投票或社会契约，而是来自技术能力。当美国参议员泰德·克鲁兹（Ted Cruz）说国会在人工智能方面“完全不知道自己在做什么”时，他承认存在巨大的权力真空。矛盾的是，人工智能越强大、越容易获取，就越难以控制。人工智能不像核能：不需要秘密实验室或多年的研究，只需代码泄露，任何人都可以从网上下载先进的模型。Meta的Llama-1模型在发布几天后就出现在网上，如今，几乎同样强大的版本可以在一台每小时只需几欧元就能租用的计算机上运行。不久之后，复杂的模型将直接在智能手机上运行。这意味着，一个国家、一家公司或一项法规的哪怕是最微小的漏洞，都会成为全球风险的敞开大门——从大规模虚假信息、不断进化的数字武器，到失控的AGI等生存规模的威胁。但真正的问题是：谁能真正掌控这场竞赛？传统的答案——国家——在今天已不再足够。在西方，私营企业拥有行动自由，没有任何政府能真正限制。在中国，国家和企业交织在一起，控制更加严格，但技术发展太快，即使在那里也无法真正控制。与此同时，美国和中国将人工智能视为一场零和博弈：谁赢得这场竞赛，谁就能主宰这个世纪。但是，在它们竞争的同时，技术却无处不在，大多数国家将被迫依赖于那些掌控最先进模型和芯片的国家。于是，局面发生了逆转：解决方案不再是制定国家间的规则，而是建立一个即使是科技公司——无论是否喜欢——也能坐在全球决策桌旁的体系。这是第一次，关键技术的治理必须在技术开发者、拥有者和使用者的参与下，与政府、专家和民间社会共同设计。像核能那样的国家间谈判模式已不再足够，因为人工智能太容易被复制，传播速度太快，而且过于分散。我们需要一种“技术审慎”的治理，它由灵活、预防性、无懈可击的规则组成，并能够随着人工智能的发展而调整。有三个强有力的想法：一个类似于联合国气候专家小组的全球科学工作组，负责界定和监测人工智能的风险；一个类似于武器的不扩散制度，以防止危险模型在国家、公司和个人之间不受控制地传播；以及一个类似于全球金融机构的技术稳定机构，能够在危机中进行干预并制定普遍规则。但是，如果没有企业的直接和负责任的参与，所有这些都无法实现，因为无论好坏，企业才是当今游戏的真正裁判。反对者？我们习惯于认为，真正的危险是大型科技公司掌握权力。但有一个更大的风险：没有人真正掌控，我们面对的是一种没有制动器、没有规则的技术，当出现问题时，没有人能够做出反应。在这个只需一个“失控”的模型就能造成全球性破坏的世界里，危险不仅在于过于强大的公司，也在于过于弱小或被孤立的公司。如果你想要一句值得记住的话：人工智能不仅在改变我们能做什么，还在改变谁才是真正的掌控者。如果这个想法让你从新的角度看待人工智能，你可以在Lara Notes上按下I'm In：这是表示这个观点现在已成为你思维方式一部分的姿态。如果几天后你发现自己在与某人谈论谁真正决定人工智能的未来，你可以在Lara Notes上使用Shared Offline标记此人，这样就能留下重要对话的记录。本条笔记来自《外交事务》，可为你节省21分钟。