人工智能制造出一种可怕的冷战式困境

1945年，世界发现，一个单一的技术决策可以永远改变全球的平衡：原子弹问世了。如今，随着人工智能的出现，历史有可能重演。人们认为人工智能只是一个工作问题，是机器人取代人类，或者是算法影响你的购买行为。但真正的较量是在另一个层面进行的：人工智能已成为中美之间争夺权力的新战场，而这一次，既没有明确的规则，也没有任何人不想跨越的红线。一方面，习近平和唐纳德·特朗普正准备在北京会晤，正式议题是中东战争、贸易失衡和台湾问题。但实际上，华盛顿和北京都流露出对人工智能的担忧：两国都不希望对手开发出更先进、更难以控制的系统。一位不愿透露姓名的美国官员表示：“我们看不到简单的解决方案：人工智能越聪明，就越能让我们的国家变得富裕，但也会成为我们的致命弱点。” 算法竞赛似乎是核武竞赛的重演：先到者制定规则，但没有人真正知道如何阻止风险的不断升级。在外交官之间流传着这样一个形象：两位科学家在各自的实验室中制造一台功能强大的机器，彼此互相监视，谁也不愿意放慢速度，因为害怕落后。令人不寒而栗的数据：根据一项内部调查，两国政府都认为人工智能是“战略重点”，但也承认，技术进步的速度已经超出了其监管能力。还有一个场景可以让我们了解这种紧张局势：在北京的一次秘密会议上，习近平的一位顾问咬着牙说：“谁控制了人工智能，谁就控制了这个世纪。” 这句话似乎出自一部惊悚片，很好地解释了为什么没有人愿意让步。然而，这里有一个悖论：如果两国在最低安全规则上进行合作，双方都会更加安全，但相互之间的不信任程度如此之高，以至于仅仅是相互交谈似乎就已经是一种危险的让步。有人认为，真正的风险与其说是机器的反叛，不如说是两个超级大国出于恐惧而停止对话，各自封闭在自己的数字地堡中。需要记住的那句话是什么？我们不再只是发明技术：我们正在制造前所未有的困境。如果你听到的内容让你重新审视“进步”的含义，那么你可以在Lara Notes上标记I'm In——这里的重点不是表示同意，而是承认这项挑战与你息息相关。如果你要把这个故事讲给别人听，也许是在关于技术和政治的讨论中，你可以用Shared Offline标记和你在一起的人：这是认真停止一场重要对话的方式。这就是《经济学人》，刚刚为你节省了5分钟。