人工智慧之父之一 Yoshua Bengio：「藉由人工智慧，我們正在建造能夠超越我們的人工智慧。如果落入壞人之手，風險是巨大的」

面向未來：Yoshua Bengio 與安全人工智慧的競賽。 想像一下，自己身處科技革命的最前沿，正在打造有朝一日可能超越人類智慧的機器基礎。這就是人工智慧先驅 Yoshua Bengio 的現實，他一生的工作將人工智慧推向了驚人的新高度。但隨著這種進步，也帶來了深深的責任感，以及越來越多的擔憂。 Bengio 的旅程充滿了興奮與焦慮。早期，他相信人工智慧可以成為一股向善的力量，並將其視為解決人類最大挑戰的工具。然而，隨著神經網路的功能呈指數級增長，他意識到這些創造比任何人預期的發展速度都要快得多，而且受到的限制也少得多。機器現在在某些領域的能力超越了我們，它們溝通、行動甚至自我複製的潛力，為世界帶來了尚未準備好回答的問題。 本吉歐的核心訊息是一個警告：如果落入壞人之手，人工智慧可能會威脅到人類團結的基礎。風險從民主的侵蝕（人工智慧操縱和分化社會）到存在威脅，例如自主系統的行為目標與人類福祉不符。人工智慧的力量集中在少數參與者手中，只會增加危險，創造出前所未有的動態，科技可能會超越塑造文明的制衡機制。 儘管存有這些風險，班吉歐仍不會絕望。他主張成為「行動者」而非「厄運者」，相信我們仍有能動性，我們的選擇和行動可以引導未來朝著積極的方向發展。他目前的任務是設計一種非「代理式」的人工智慧，這代表它不會追求自己的目標，而是扮演科學預言家的角色：誠實、不操縱，並且只追求真理。他認為，這種人工智慧可以作為一種保障，可以檢查更多可能失控的自主系統。 Bengio 的願景不僅僅是技術上的修正。他呼籲全球合作，建立一個新的框架，讓國家和機構團結起來，確保人工智慧的發展是負責任的，其利益是公平分享的。他認為，宗教和公民領袖在喚醒社會對人工智慧的承諾和危險方面發揮著至關重要的作用，激發了要求問責和明智管理所需的集體意志。 在本吉奧看來，這些風險不僅僅是人類尊嚴和自由的未來。他的追求不是為了個人利益，而是為了創造一個科技能夠放大人類最優秀的一面，而不是破壞它的世界。憑藉謙遜、希望和堅定不移的行動承諾，Bengio 走上舞台，提醒我們所有人，人工智慧的故事尚未寫下，我們今天的選擇將在未來幾代人中產生共鳴。