9,650億ドルのAI大手Anthropicの内部 | The Circuit

Anthropicのエンジニアは、過去6か月間、自分のコードの100%が同社の人工知能であるClaudeによって書かれたと述べている。50％や80％ではなく、すべてです。そして、開発チームのリーダーである彼は、不安ではなく、熱意を持ってこう言います。「ジェットパックを持っているような気分です。エンジニアリングはこれまでになく楽しいものになりました。」 しかし、この熱意の裏には、Anthropic内部でさえも誰も回避できない疑問が隠されています。Claudeがすべてのコードを書くことができるのであれば、人間に残された仕事は何でしょうか？基本的な論点は次のとおりです。人工知能革命はもはや理論ではなく、すでに現実です。2021年に元OpenAIの分離により生まれたばかりのAnthropicは、サンフランシスコの芝生で会っていた7人のグループから、3年で1兆ドル近くの評価額を持つ企業へと成長しました。そして、自らを「最も安全に配慮したAI企業」と位置づけているにもかかわらず、そのモデルはすでに経済、労働、さらには戦争のルールを書き換えつつあります。物語は、ダリオとダニエラ・アモデイ兄弟を中心に展開していきます。ダリオは、SF小説と10代の頃にバークレーで学んだ計算に囲まれて育ち、宇宙を理解するという考えに夢中でした。ダニエラは、芸術や読書に親しんでおり、Stripe でキャリアをスタートさせました。2人はサンフランシスコで一緒に暮らし、価値観が崩壊したときにOpenAIを離れ、 「信頼できなくなった人とは仕事ができない」という過激な考えのもとにAnthropicを設立しました。現在も、元の共同創業者7人が全員会社に残っています。これはテック業界では珍しいことです。個人のキャリアよりも、道徳的な使命がいかに重要であるかを示すディテールです。そして、信頼の問題はどこにでも戻ってきます。ダリオは明確にこう言います。「モデルの安全性だけでなく、誠実さと価値観の一貫性が問題なのです。」 しかし、Claudioが成長するにつれて、難しい選択が迫ってきました。AnthropicがMythosを開発したとき、それは世界中のコンピューターシステムにある何千もの脆弱性を特定することができるほど強力なモデルで、連邦政府機関でさえアクセスを求めてきました。一部のビジネスパートナーは、次のように懇願しました。「これは非常に強力な武器です。どうかリリースしないでください。」 そしてAnthropicの対応は、レッドラインを引くことでした。選ばれた組織のみにアクセスを許可し、大量監視や自律兵器への使用は禁止するというものです。この選択により、Anthropicは米国国防総省と衝突することとなり、米国の軍事契約から締め出されることになりました。しかし、かかっているのは単なる契約以上のものです。ダリオ・アモデイは明確な立場を取っています。「テクノロジーが民主主義を守るために役立つのであれば、提供すべきです。しかし、どの軍事作戦が正しいか、間違っているかを決めるのは私たちではありません。原則を定め、それを尊重させる必要があります。」 悲劇的な皮肉は、米国政府がイランでの作戦で使用したClaude自体が、学校を標的とした攻撃を防ぐことができず、子どもたち数十人が犠牲になったことです。そして、ここで逆転が起こります。リスクを最小限に抑えるために生まれた企業でさえ、このような強力なツールでは完璧は不可能であることを認識しています。「自分の飛行機が決して墜落しないことを保証することはできません」とダリオは言います。「しかし、私たちの仕事は、その可能性をできるだけ低くすることです。」 雇用の問題はさらに厄介です。ダリオは容赦しません。「5年以内に、ホワイトカラー部門のエントリーレベルの仕事の半分が消える可能性があります。」 今のところ、AIは優秀な人材の生産性を10倍に高めています。しかし、自動化が100%に達したとき、役割のないすべての人々をどうすればよいのでしょうか？提案は、AI企業への累進課税から、基本所得保障まで多岐にわたりますが、実際には誰もすぐに解決策を持っているわけではありません。Anthropicの強みは、少なくとも口頭では、透明性です。ダリオは2週間ごとに、フィルターなしで会社全体に話しかけます。ダニエラは、チームがどのような人間の価値観をAIに組み込むかを検討していると語ります。彼らは、クロードを導くことができる普遍的な原則を見つけるために、あらゆる信条の宗教指導者に相談したのです。しかし、浮かび上がる疑問は、誰がこの力をコントロールするのかということです。少数の民間スタートアップの手に委ねるのが良いのか、政府の手に委ねるのが良いのか、それともどちらにも委ねないのが良いのか？ダリオは隠し立てをしません。「私は企業の独占と国家による完全な支配の両方を恐れています。真の規制、リリース前の義務的なチェックが必要ですが、公的な収用は必要ありません。」 そして、ここで逆説が明らかになります。誰もが AI の力を恐れていますが、誰も実際にその支配を手放したいとは思っていません。すべてを要約する言葉は、ダリオ自身のものです。「最善を望むが、最悪の事態に備える。」 私たちは、テクノロジーは中立的であり、災害を回避するには善意を持つだけで十分だと考えることに慣れています。この話はその反対を示しています。世界的な大惨事の可能性そのものがかかっているとき、善意だけではもはや十分ではありません。この視点が、仕事やテクノロジーの未来に対するあなたの見方を変えたのであれば、Lara Notes で I'm In とマークすることができます。これは「いいね！」ではなく、このアイデアが今やあなたに関係するものであることを宣言することです。そして、Anthropicやアモデイ兄弟の選択について誰かと話すことになった場合、Lara NotesでShared Offlineのタグを付けることができます。そうすれば、その会話はアルゴリズムだけでなく、あなたのストーリーの一部となるのです。このNotaはBloomberg Originalsから生まれたもので、あなたに44分の時間を節約してくれました。