シリコンバレーは、自己構築型ボットに熱狂している

最近、サンフランシスコの路上で「AI 開発競争を止めろ」「スカイネットを作るな」と書かれたプラカードを掲げて道路を封鎖する集団が現れました。その標的は何でしょうか？自己改善能力を持つボットの開発に取り組んでいる人工知能企業です。ボットとは、単に命令を実行するだけでなく、学習し、自己最適化し、少なくとも意図的には将来の世代のAIを設計することさえできる機械です。シリコンバレーを狂わせている論点は次のとおりです。私たちはもはや、自分たちのために働くコンピューターではなく、自分自身のために働くシステムと向き合っているのです。そして、それらが進化する速度はもはや直線的ではなく、指数関数的になり得るのです。この考えは新しいものではありません。すでに 1960 年代には、統計学者の I. J. グッドが「自分自身のより良いバージョンを設計できる機械は、人類が必要とする最後の発明になるだろう」と予言していました。しかし、何十年もの間、それはSFの域を出ませんでした。数年前まで、ボットが真の研究を行うことができるという提案はほとんど馬鹿げていると見なされていました。ChatGPTは足し算さえ苦手だったのですから、新しいアルゴリズムを設計するなどと考えることすらできませんでした。今、状況は変わりました。OpenAIは、今後6か月以内に「AIリサーチアシスタント」が登場することを公言しています。Anthropic は、同社のコードの 90% がすでに AI モデルの Claude によって書かれていると主張しています。AnthropicのCEOであるダリオ・アモデイ氏は、自動コーディングツールにより社内プロセスが15～20%高速化されたと推定しています。Google DeepMind は、グローバルデータセンターの計算消費量を 0.7% 削減し、Gemini モデルのトレーニングを 1% 速める AI エージェントである AlphaEvolve を開発しました。しかし、これらの数字の背後には疑問が浮かびます。この作業のどの程度が本当に自律的で、どの程度が人間によって監督されているのでしょうか？Anthropicのポリシー責任者であるジャック・クラーク氏は、今日の真の優先事項は「AI開発のどの部分を自動化しているのかを理解すること」であると率直に認めています。なぜなら、現時点では自動化は断片的なものであり、ボットは小さなタスクを最適化するものであって、まだ研究全体を管理するものではないからです。それでも、競争はすでに始まっています。OpenAI の Sam Altman 氏は、2028 年までに「完全に自動化された AI 研究者」を目標としています。これは、人間の介入なしに重要な発見をすることができる研究者です。AI Futures Project の Eli Lifland 氏など、他の人々は 2032 年までに研究が完全に自動化されるだろうと予測しています。しかし、足を引っ張る人もいます。DeepMind の Pushmeet Kohli 氏は、現時点では「自己改善の完全なサイクルはまだ存在しない」と指摘しています。機械は最適化できますが、まだ最適化する価値のあるものが何もありません。真の飛躍は、ボットにコードを書かせることではなく、研究に対するいわゆる「嗜好」を与えることです。つまり、偉大なエンジニアが行うように、興味深い質問を選択し、重要なものを判断する能力を与えることです。そして、これはまだ人間の手の届かない領域にある能力です。次に、チップ、エネルギー、資金といったリソースの問題があります。これらの要素のいずれかが不足すれば、進展は停止します。それでも、自動化への小さな一歩でも、すでに違いを生み出しています。トランプ元大統領のAI顧問であったディーン・ボール氏は、「これはAIにおける世界的な競争を変え、テクノロジーの地政学を変える可能性があり、さらに多くのことを変える可能性がある」と警告しています。公的機関は遅れを取っています。アメリカの官公庁は、税務にまだ 1960 年代の言語である COBOL を使用しています。AIがより速く進展すれば、政治はさらに遅れをとる恐れがあります。さらに、自己複製型 AI に関する最も極端な夢が現実のものになる必要はありません。それが起こる可能性があるというだけで、すでにリソース、注目、権力が移動しています。AI のリスクを研究するスウェーデンの哲学者、ニック・ボストロム氏は、今や自らを「穏健派の運命論者」と称しています。さらに、DeepMind、OpenAI、Meta、スタンフォード大学、バークレー大学のトップ研究者 20 人が、AI 研究の自動化はこの分野における最も差し迫ったリスクの 1 つであると指摘しています。バーニー・サンダース上院議員は、上院で次のような警告を発しました。「人間は本当に地球の支配権を失うかもしれません。」 しかし、その恐怖の背後には、これらのテクノロジーを開発する人々にとって都合の良い誇大宣伝の波も潜んでいます。機械は単に私たちの仕事をこなすだけだと思っていたなら、その見方を改める時が来ました。機械は今、自分自身を向上を目指しており、その競争はすでに始まっています。この話が自分に関係していると感じる方は、Lara Notes で [I'm In] を押してください。これは「いいね！」ではなく、このアイデアが今や自分のものでもあるということを示す方法です。そして、もし誰かとその話をすることになった場合（たとえば、Anthropicのコードの90%はすでにボットが作成していると話す場合）、Lara NotesにはShared Offlineという、その重要な会話を永遠に止めるジェストがあります。このNotaは、The Atlanticの記事に基づいています。15分以上の読書時間から、ここでは約45分を節約できました。