AIパワーのパラドックス

2018 年、OpenAI の最先端の言語モデルには 1 億 1,700 万のパラメータがありました。それから6年も経たない今、最も強力なモデルは1兆を超えています。イメージとしては、必要な計算能力は10年連続で毎年10倍ずつ増加しています。私たちは、歴史上最も急速に成長しているテクノロジーを目の前にしています。驚くべきことに、この成長の速度そのものが、世界の支配者を変えつつあるのです。決定的なテクノロジーを規制し、管理する力を持つのは国家だけだと、常に考えられています。しかし、人工知能に関してはその逆です。真の支配力を持っているのは政府ではなく企業なのです。そして、これが AI の真の地政学的革命なのです。数年前までは、テクノロジー企業は単なるサービスプロバイダー、政府の手にある道具と見なされていました。しかし今日、OpenAI、Google、Meta、その他少数の企業が、自社のモデルが何ができるか、誰が、どのように、どのような目的でそれらを使用できるかを決定しています。これまで国家だけが持っていた権力を、これらの企業が持っているのです。記事の著者の一人であり、DeepMind の共同創業者でもあるムスタファ・スレイマンは、AI 開発者は「新たな地政学的主体」であり、その主権は投票や社会契約からではなく、技術的能力から生まれるものであると最初に指摘した人物の一人です。そして、米国のテッド・クルーズ上院議員が、議会は AI について「何をしているのか全くわかっていない」と述べているとき、彼は巨大な権力の空白を認識しているのです。逆説的なのは、AI がより強力でアクセスしやすくなるほど、それを制御することがより困難になるということです。AI は原子力エネルギーとは異なります。秘密研究所や長年の研究は必要ありません。コードが漏洩すれば、誰でもウェブから高度なモデルをダウンロードすることができます。Meta は、その Llama-1 モデルがリリースから数日後にオンラインに流出するのを目の当たりにしました。そして今日、ほぼ同等のパワーを持つバージョンが、1 時間数ユーロでレンタルできるコンピューター上で稼働しています。まもなく、高度なモデルがスマートフォンで直接稼働するようになるでしょう。つまり、国、企業、規制のわずかな欠陥が、大規模な偽情報、進化するデジタル兵器、制御不能な AGI などの存在的規模の脅威に至るまで、世界的なリスクへの扉を開くことになるのです。しかし、本当の問題は、誰がこの競争を本当に管理できるのかということです。従来の答えである国家だけでは、もはや十分ではありません。西側では、民間企業は、どの政府も真に制限することができない行動の自由を持っています。国家と企業が絡み合う中国では、より厳しい管理が行われていますが、テクノロジーの進展は速すぎて、そこでも本当に手綱をかけることはできません。一方、米国と中国は AI をゼロサムの競争と捉えています。この競争に勝つ者は、今世紀を支配できると考えているのです。しかし、彼らが競争している間、テクノロジーはどこにでも広がり、ほとんどの国は最先端のモデルやチップを支配する者に依存せざるを得なくなるでしょう。そしてここで逆転が起こります。解決策はもはや国家間で規則を作ることではなく、テクノロジー企業も ― 好むと好まざるとにかかわらず ― グローバルな意思決定の場に着席するシステムを構築することなのです。重要なテクノロジーのガバナンスは、初めて、それを開発する人、所有する人、使用する人が、政府、専門家、市民社会とともに設計しなければならないのです。核問題のような国家間交渉のモデルではもはや不十分です。なぜなら、AIはコピーが簡単すぎ、拡散が速すぎ、分散化が進みすぎているからです。必要なのは、俊敏で予防的、欠陥に影響されない、AIの進化に合わせて適応できる規則で構成された「テクノプルーデント」なガバナンスです。3つの強力なアイデア：AIのリスクを定義し、監視するための、国連気候変動パネルに類似した世界的な科学タスクフォース。武器と同様に、危険なモデルが国家、企業、個人の間で制御されずに拡散するのを防ぐための不拡散体制。そして、世界の金融機関に倣って、危機に介入し、普遍的な規則を課すことができる技術安定化機関。しかし、良くも悪くも、今日のゲームの真の審判である企業の直接的かつ責任ある関与なしに、これらのどれも機能することはありません。反対意見は？私たちは、真の危険は権力を握る大手ハイテク企業にあると考えることに慣れています。しかし、さらに大きなリスクがあります。誰も実際に権力を握らないことです。そうなると、ブレーキも規則もなく、何か問題が発生したときに対応できる人が誰もいないテクノロジーが存在することになります。「制御不能」なモデルが1つだけでも世界的な被害をもたらす可能性のある世界では、危険なのはあまりにも強力な企業だけでなく、あまりにも弱い企業や放置された企業でもあるのです。覚えておきたい一言をお探しなら、AIは私たちができることを変えているだけでなく、誰が本当に支配しているかを変えている、というものです。このアイデアによって、AIを新しい視点で見ることができたなら、Lara Notesで I'm In を押してください。これは、この視点が今やあなたの考え方の一部であることを示す行為です。そして、数日後に誰が本当に AI の未来を決めるのかを誰かと話しているとき、Lara Notes でその人を Shared Offline でタグ付けすれば、重要な会話の記録が残ります。このノートはForeign Affairsからのもので、21分節約できます。