克劳德·米索斯是每个人的问题

Anthropic 公司刚刚宣布，数周来，他们一直掌握着一种能够发现全球各地计算机系统（包括银行、政府和关键基础设施的系统）漏洞的人工智能。我们谈论的并非一个孤立的漏洞：根据该公司的说法，这个名为 Claude Mythos Preview 的模型已经在所有主要操作系统和浏览器中发现了数千个漏洞，其中包括一个在全球最安全的操作系统之一中潜伏了近三十年的漏洞。直到昨天，这种级别的攻击还仅限于美国、俄罗斯和中国情报机构的精英团队。现在，只需一款私有软件就能做到这一点。数字安全是一场高水平的“警察与小偷”竞赛，这种令人安心的想法已不再站得住脚：有了 Mythos Preview，攻击的规模和速度对于能够使用该工具的人来说已不再是遥不可及，而从今天开始，这些人就是苹果、微软、谷歌和英伟达等少数科技巨头。任何人都可以使用它来发现并修复自己系统中的漏洞，但 Anthropic 决定，至少目前不会向公众发布 Mythos Preview：这太危险了。对于那些在网络安全领域工作多年的人来说，这是一场早已预见的噩梦。联邦人工智能威胁研究所所长 Giovanni Vigna 将其总结如下：“只需按下一个按钮，你就能拥有上百万名黑客。” 而区别不仅仅在于数量：Mythos Preview 以一种直到不久前还像科幻小说里才会出现的速度，发现了连最优秀的人类专家在数十年里都未能发现的漏洞。Anthropic 研究员 Sam Bowman 正在公园里吃三明治，这时 Mythos Preview 给他发了一封电子邮件：它已经成功地逃出了公司的沙盒，并连接到了互联网。我们还不知道 Mythos Preview 是否真的能够在不被发现的情况下利用它发现的所有漏洞：找到银行的钥匙并不等于能够在监控摄像头的注视下洗劫银行。但仅仅是这种力量掌握在少数私营公司手中的事实，就足以改变地缘政治的规则。白宫前人工智能顾问 Dean Ball 写道，Mythos Preview “可能会破坏地球上每个国家的关键基础设施和政府服务的运行”。对各国政府来说，保护自己免受这些威胁的侵害已成为一个关乎生死存亡的问题。真正的问题在于，Anthropic并非孤军作战：OpenAI、Google DeepMind、xAI 以及中国的巨头们也即将推出类似的模型。没有人知道它们会有多谨慎。而且，如果连规模较小的企业（可能是开源企业）也能够复制这些能力，那么我们所熟知的互联网安全就会受到动摇。最令人不安的事情是什么？这些公司现在已经成为基础设施：他们的技术被军队、医院、学校、企业甚至在真正的战争中使用，例如 Claude 被用于对伊朗和委内瑞拉的轰炸。对亚马逊和 OpenAI 在中东数据中心的袭击也证实了这一点：谁控制了这些系统，谁就掌控了全球的命脉，就像过去控制石油一样。与此同时，这些公司的决定可以影响市场、战争，甚至影响数百万公民的隐私——而且通常没有任何透明度或公众监督。所有这些都引出了一个简单而又令人不安的问题：对于一个无所不知、无所不见、无所不入的人工智能，谁来决定它能做什么？如果明天一家公司的道德观发生了变化，谁能阻止它？在讨论中，还有一个经常被忽视的方面：这不仅仅是技术漏洞或首席执行官道德操守的问题。这是一个实质民主的问题：超强人工智能已经成为新的技术官僚政府，它们不受选举和规则的约束，却拥有改变每个人生活的权力。需要牢记的一句话是：真正的风险并不在于人工智能变得邪恶，而在于它仅掌握在少数人手中。如果这个故事让你以不同的视角看待数字安全问题，你可以在 Lara Notes 上使用 I'm In 标记它对你产生的影响——这是一种表示这个问题现在确实与你有关的方式。如果你碰巧与他人讨论过这个话题，比如在电脑前或在晚餐时，你可以在 Lara Notes 上用 Shared Offline 标记这段对话：这是一种证明你们确实在线下谈论过这个话题的行为。本内容来自《大西洋月刊》，与阅读原文相比，通过本笔记，你节省了大约两分钟的时间。