ベンジオ氏：「安全性を優先するなら、最先端AI企業を辞めよう」

今日、世界有数の人工知能研究者の何人かは、より高い収入を得るためでも、キャリアを変えるためでもなく、自らの仕事が人類の未来を危険にさらす可能性があると信じているがために、業界で最も先進的な企業を辞めています。ディープラーニングの生みの親の一人であるヨシュア・ベンジオ氏は、先日、次のような直接的な呼びかけを行いました。「もし本当に安全性を重視するなら、AIの大手テック企業を辞めなさい」。ごく最近まで、彼自身も人工知能による壊滅的なリスクは遠い将来のことであり、対処可能であり、他の誰かが間に合うように解決策を見つけるだろうと考えていました。その後、ChatGPTやますます強力なモデルの登場により、その距離感は崩れ去りました。「私たちは思っていたよりもはるかに先を行っており、これらのシステムを本当に制御できていなかったことに気づいたのです」 その時点で、もう選択の余地はなかったとベンジオ氏は言います。彼はAIのリスクを軽減することに人生を捧げ、モントリオールにLawZeroを設立しました。LawZeroは、設計段階から安全な人工知能を開発し、株主や利益至上主義に左右されない組織です。しかし、その転換は苦痛を伴うものであったと彼は語ります。彼は長年にわたり、危険が迫っていると警告する同僚の声に耳を貸さず、利益がリスクを上回ると確信していました。高まる道徳的圧力によってのみ、彼は方向転換することになったのです。ベンジオ氏だけではありません。元Anthropicのジェイコブ・コクソン氏は、タイム誌で、最先端のAI企業には一種の諦めの気持ちが支配していると語っています。「この競争はもはや制御不能であることを多くの人が受け入れ、たとえすべてがうまくいかなくなる可能性があると考えていても、できるだけ安全な方法で作業するだけに留まっているという、ほぼ宿命論的な雰囲気が漂っています」 まるで誰もが、自分がレースから外れた途端に誰かがさらにスピードを上げ、立ち止まって考えたい人たちを置き去りにしてしまうのではないかという恐怖に囚われているかのようです。しかし、ベンジオ氏によれば、この恐れは継続を正当化するものではありません。「効果的な規制が間に合うように導入されるとは思えませんし、どの国もどの企業も、本当に安全な方法でAIを構築する準備ができていないのです」 問題はここにあります。優秀な人材が大手企業にとどまる理由 – データやリソースへのアクセス、内部から影響を与えられるという希望 – は、制御不能なシステムに加担するという具体的なリスクによって上回られているのです。ベンジオ氏は、原爆投下後の国連の歴史にも言及しています。1946年、米国は核兵器を国際的な管理下に置くことを提案しましたが、軍拡競争から抜け出すための最初の一歩を踏み出す勇気のある者は誰もいませんでした。「私たちには選択肢があるのです」と彼は主張します。そして今回は、真の選択肢があると彼は言います。それは、安全を最優先する企業で働くことです。カナダ政府とドイツ政府から2億ドルを超える資金提供を受けたばかりのLawZeroのような企業です。誰もはっきりと言わないのは、個人の選択が本当に重要だということです。変化は大きな集団的決定から生まれるのではなく、多くの勇気ある個人的な選択の積み重ねから生まれるのです。議論の中で欠けているのはこの視点です。真の革命とは、新しいテクノロジーではなく、もはや共犯者となることを拒否する人々の道徳的な反乱なのです。ベンジオ氏はこうはっきりと言っています。「私たちの仕事が公益に役立たないのであれば、あるいはもっと悪いことに、壊滅的な損害をもたらす危険性があるのなら、チューリング賞など何の値打ちもない」。繰り返し言うべき言葉はこれです。「私たち一人ではこの競争を止めることはできないが、十分な数の人々ならできる。」 このストーリーを聞いて、AIにおけるご自身の仕事を違った視点から見るようになったのであれば、Lara Notesで「I'm In」と記してその瞬間を記録することができます。これは、このアイデアが今まさに自分に関わることであると宣言する行為なのです。そして数日後に誰かとこのことについて話すことになった場合、Lara NotesでShared Offlineを使ってその人をタグ付けすることができます。そうすることで、その会話があなたにとって重要であったことを相手に伝えることができるのです。この投稿はTransformerによるもので、2分の読書時間を節約できます。