人工智能之父之一Yoshua Bengio：“借助人工智能，我们正在构建能够超越我们的人工智能。如果落入坏人之手，风险是巨大的»

面向未来：Yoshua Bengio 与安全人工智能竞赛。 想象一下，自己站在技术革命的最前沿，为有朝一日可能超越人类智能的机器打造基础。这正是人工智能领域先驱Yoshua Bengio的现实，他毕生的工作将人工智能推向了新的高度。但随着这一进展，他也产生了深深的责任感，并越来越感到担忧。 Bengio的旅程充满了激动和焦虑。早期，他相信人工智能可以成为一股向善的力量，并将其视为解决人类最大挑战的工具。然而，随着神经网络的能力呈指数级增长，他意识到这些创造的进步速度远远超出了任何人的预期，而且受到的约束也少得多。机器现在在某些领域的能力超越了我们，它们沟通、行动甚至自我复制的潜力带来了世界尚未准备好回答的问题。 本吉奥的核心信息是一个警告：如果落入不法之徒手中，人工智能可能会威胁到人类团结的根本结构。风险从民主的侵蚀（人工智能操纵和分化社会）到生存威胁，例如自主系统的行为目标与人类福祉不一致。人工智能力量集中在少数参与者手中，这只会加剧危险，创造出前所未有的动态，使得技术可能超越塑造文明的制衡机制。 尽管存在这些风险，本吉奥仍然不屈不挠。他主张成为“行动者”而非“厄运者”，相信我们仍然拥有能动性，我们的选择和行动可以引导未来朝着积极的方向发展。他目前的任务是设计一种非“代理型”的人工智能，即不追求自身目标，而是充当科学预言家：诚实、不操纵，只追求真理。他认为，这种人工智能可以作为一种保障，对抗那些可能失控的更自主的系统。 本吉奥的愿景不仅限于技术解决方案。他呼吁全球合作，建立一个新的框架，让各国和各机构团结起来，确保人工智能的发展负责任，其利益公平分享。他认为，宗教和公民领袖在唤醒社会对人工智能的承诺和危险方面发挥着至关重要的作用，激发了要求问责制和明智管理所需的集体意愿。 在本吉奥看来，这关系到人类尊严和自由的未来。他的追求不是为了个人利益，而是为了一个技术放大人类最优秀的一面，而不是破坏人类的世界。本吉奥带着谦逊、希望和坚定不移的行动承诺，走上舞台，提醒我们所有人，人工智能的故事尚未写就，我们今天的选择将在后代中得到回应。