人工智能安全专家：这些是2030年唯一会留下来的5个工作！ - Roman Yampolskiy博士

最后五个工作：面对超智能的未来。 想象一下，在未来的十年内，你所知道的几乎所有工作——司机、教授、水管工、艺术家——都会过时，而不是在遥远的科幻时代。这是人工智能安全辩论的核心中出现的挑衅性愿景，因为人工通用智能（AGI）的加速竞赛可能会颠覆我们工作生活的结构。 多年来，人们一直坚信，只要采取适当的预防措施，先进的人工智能就可以变得对人类安全且有益。但是，随着人工智能能力的爆炸式增长，安全研究远远落后，差距正在扩大。技术的进步是指数级的，几乎是超指数级的，而我们控制甚至理解这些系统的能力即使有增长，也只是缓慢增长。我们所能做的只是修补意外行为，而人工智能则在学习、适应，并在一个又一个领域中越来越多地超越人类。 我们已经见证了这种转变：AI模型现在在数学竞赛中表现出色，能够生成科学证明，并使创造性任务自动化。很快，人工智能不仅会在几乎所有认知追求中与人类匹配，甚至超越人类。在短短几年内，机器人技术的进步意味着，即使是曾经被认为不会受到自动化影响的体力劳动，也将由机器以更好、更快、更便宜的方式执行。 那么，这对我们来说意味着什么？到2030年，预测是严峻的：只剩下少数工作岗位，可能不超过五个。出于传统、个人偏好或对人性化的简单渴望，人们仍然会为人类付费来完成这些工作。比如治疗师、私人教练或定制工匠。但这些将是小众的、几乎是偶像化的例外，而不是规则。绝大多数工作——所有可以在计算机上或由机器人完成的工作——都可以实现自动化。 在这种情况下，通常的安慰——“为新工作进行再培训”——会消失。如果所有工作都可以自动化，那么就没有B计划。挑战不仅仅是经济上的，而是存在的：当我们知道的工作消失时，我们如何找到意义？我们如何构建失业率高达99%的社会？即使是普遍的基本收入似乎也是对这种地震性转变的一个小答案。 所有这些都在巨大风险的阴影下展开。超级智能的进程并不能保证会有好结果。正在开发的系统不仅仅是工具；它们是代理，不可预测且可能无法控制。即使是它们的创造者也无法完全理解它们的内部运作方式。灾难性滥用甚至灭绝级别事件的可能性是真实存在的，尤其是因为人工智能能够创造出新的生物威胁或其他超出我们当前想象的危险。 有些人希望通过技术或立法来解决问题，但关于如何使超智能人工智能变得安全，甚至是否可能，目前还没有达成共识。与此同时，在巨大的金融和地缘政治激励下，全球在人工智能发展中争夺主导地位的竞争势头有增无减。呼吁谨慎、抗议或监管的努力，以获得对创新势头和难以想象的力量诱惑的牵引力。 还有一个深刻的哲学转折：随着人工智能能够模拟整个世界和人类代理，模拟假设——我们可能已经生活在人工现实中——获得了新的合理性。如果我们很快就能运行数十亿次逼真的模拟，那么我们现在就有可能处于其中。 然而，尽管存在紧迫性和生死攸关的风险，日常生活仍在继续。我们坚持自己的日常生活，过滤噪音，继续前行。也许这是一种生存特质，也许是否认，但这也是一种行动的呼唤——要求那些构建这些系统的人给出答案，重新思考有意义的生活意味着什么，也许最重要的是，认识到人类创造的最终发明可能是重塑或终结我们所有人的发明。