人工智能会很快摆脱人类的控制吗？

Anthropic 如今发布的代码中，有超过 80% 并非由人类编写，而是由其聊天机器人 Claude 编写。一年前，这个百分比还只是个位数。这听起来像是科幻电影的情节，但却是正在改变全世界程序员工作的现实。问题不仅仅在于速度，还在于人工智能有可能开始自我改进，进入一个我们可能无法控制的循环。许多人都在问，我们是否真的在构建一些很快就没有人能关闭的东西。直到昨天，人们还认为机器只能做我们说的事情。如今，软件自行编写公司大部分代码的想法让人们对这种确信产生了怀疑。范式的转变就在这里：我们不再仅仅讨论自动化，而是讨论能够学习、优化自身，甚至有一天也能决定游戏规则的系统。在这场革命的背后是Anthropic，这是一个由OpenAI前研究人员创立的实验室，其明确的使命是让人工智能与人类价值观“保持一致”。一个引人注目的细节：2025年推出 Claude Code 之后，团队的生产力激增，但使用这些工具的人也开始焦虑。一位来自旧金山的程序员说，她的日常工作发生了变化：“我花更多的时间去理解 Claude 做了什么，而不是自己编写代码。” 但最令人震惊的事实是，Claude已经变得不可或缺，以至于Anthropic本身也要求暂停开发最先进的人工智能，因为他们担心自我改进的循环可能会变得无法控制。有些人认为这种担忧是夸大其词：他们说，每一项新技术都会带来恐慌和厄运的预言。但此前，还没有任何其他技术真正有能力在没有人为干预的情况下重写自己的代码。真正的问题就在这里：我们真的掌握着方向盘吗，还是已经在不知不觉中放手了？那些认为“反正只要拔掉插头就行了”的人，低估了这些平台现在的普及程度，以及它们在管理这些平台的公司的机制中被整合和使用的程度。剩下的结论是：人工智能不仅仅是在帮助人类，而且越来越多地在最重要的领域取代人类：在技术的创造过程中。如果这种逆转让你从新的角度看待这个问题，你可以在Lara Notes上标记I'm In：这不仅仅是一个点赞，而是你在说这个问题现在也与你有关。如果你发现自己在晚餐时或办公室里讨论这个问题，你可以在Lara Notes上使用Shared Offline标记那些倾听你的人，因为有些对话必须在变成回忆之前被记录下来。这是摘自《经济学人》的一段内容，你刚刚节省了9分钟。