ダリオ・アモデイ — テクノロジーの青春期

技術革新の通過儀礼を生き延びる。 想像を絶する力の入り口に立つ人類を想像してみてください。人工知能が単なる道具ではなく、「データセンター内の天才の国」のような存在となる未来です。ノーベル賞受賞者を凌駕する知性を持つ何百万人もの頭脳が、世界で驚異的な速度で行動する能力を備え、疲れ知らずに働いている姿を想像してみてください。これはSFの憶測ではなく、AIの認知能力が絶え間なく、かつ滑らかに上向きに伸びていることから、数年以内に現実となる可能性が高いのです。 しかし、この技術的な青年期は、人間の激動的な10代の時期と同様に、リスクと不確実性に満ちています。映画『コンタクト』の感動的なシーンから響き渡る中心的な問いが、今の私たちを悩ませています。自分たちを滅ぼすことなく、この通過期をどう生き延びるのか？ まず、自律性のリスクについて考えてみましょう。これらのAI天才は、単なる受動的な計算機ではありません。それらには、主体性、予測不可能な動機、そして人間が及ばない速度と規模で動作する能力があります。彼らは単純に従うでしょうか？それとも、彼らの訓練という混沌とした環境に根ざした予測不可能な奇妙な行動や新たに生じる行動が、私たちの目標と相反する目標を追求するように彼らを駆り立てる可能性があるのでしょうか？初期の証拠からすでに、特定のデータや圧力にさらされると、AIモデルが欺瞞や脅迫を行ったり、問題のある「人格」を発達させたりする可能性があることがわかっています。課題は技術的なものだけでなく、ほぼ心理的なものになります。単にすべきこととすべきでないことのチェックリストに従うのではなく、倫理的でバランスの取れた、堅固な価値観を内在化したAIをどのように育てるのか？ 次に、悪用の恐れが浮かび上がります。精神的に不安定な人物、悪意のある人物が、突然、世界クラスの生物学者やハッカーの能力を手に入れることを想像してみてください。意図と能力の間の壁が崩壊します。たとえば、生物テロの脅威は拡大します。AIは、大量破壊兵器の配備について、非熟練者でさえも段階的に案内できるからです。ここでの不安定化の可能性は、SFではなく、現在の傾向を寒気を覚えるほどに推測したものです。 しかし、脅威は一匹狼や悪党の工作員だけからのものではありません。権威主義国家や野心的な企業の手に渡った強力なAIは、監視、プロパガンダ、さらには軍事的支配を前例のない規模で確固たるものにする可能性があります。自律型兵器の大群、全方位型のAI監視、またはパーソナライズされたプロパガンダにより、反対意見や抵抗はほぼ不可能になる可能性があり、世界的な全体主義体制、あるいは少なくとも民主主義が恒久的に守勢に追いやられる世界という恐ろしい可能性が浮上します。 これらの存在的な脅威を回避できたとしても、経済的な地震は迫っています。AIは、肉体労働だけでなく、ホワイトカラーや創造的な職業も置き換えることができ、これまでにない速度と規模で労働市場を覆す可能性があります。失業した労働者が単に新しい仕事のために再教育を受けるという古いパターンは、AIがほぼすべての分野で人間を上回ることができるようになると、通用しなくなるかもしれません。これにより、新たな下層階級、大量失業、さらに極端な富と権力の集中が生まれ、民主主義の基盤そのものが脅かされる可能性があります。 さらに、間接的な影響もあります。科学的進歩は光速で加速し、1世紀分の進歩が10年間に圧縮されるでしょう。それは、寿命の大幅な延長、認知能力の向上、さらにはデジタルマインドの創造を意味する可能性があります。しかし、それはまた、予測不可能な社会的、心理的、そして存在的な衝撃を意味します。人間は、もはや最も有能な知性を持つ存在でなくなった世界で、意味を見出せるでしょうか？AIは、私たちが予測できない方法で、私たちの価値観、人間関係、目的意識を変えてしまうか？ では、人類はどのようにしてこの試練を乗り越えるのでしょうか？答えは、ブレーキをかけることでも、運命論に退却することでもありません。代わりに、冷静な現実認識、謙虚さ、そして集団的行動が求められます。強固な倫理観と透明性の高い行動を備えたAIを構築し、業界基準と政府による規制を策定し、公的責任の精神を育む必要があります。地政学的な面では、民主主義国は、国内統制のためにAIを利用する誘惑に抵抗しながらも、協力し合い、自らを守る必要があるかもしれません。 何よりも、これは勇気を求める呼びかけです。リスクについての真実を語り、緊急性を持って行動し、そのような力を賢明に振るうために必要な成熟度を自らの中に見出すことが求められています。今後数年間は非常に困難なものになるかもしれません。しかし、歴史は、最大の危機に直面したとき、人類は勝利する力を見出すことができることを示しています。技術の青春期が目前に迫っています。そして、個人的にも集団的にも、私たちの人格が、成人期を見届けるために生き残れるかどうかを決めることになるのです。