AIスーパーインテリジェンスへの第一歩を見ているのでしょうか？

転換点：私たちはAIスーパーインテリジェンスの瀬戸際にいますか？ 人工知能が人間の能力に匹敵するだけでなく、それらを迅速に上回り、私たちがほとんど理解できない速度で学習し、推論し、進化する世界を想像してみてください。これは、マトリックスやターミネーターのような大ヒットSF映画の話題だけではありません。大手テクノロジーの先見者たちは、このシナリオがすぐに現実になると信じています。 このアイデアの種は、1965年に植えられました。数学者のアーヴィング・ジョン・グッドが、一度マシンが自分自身を改善するのに十分な知恵を身につけたら、「知能の爆発」を引き起こすだろうと予測したのです。私たちはすでに、AlphaGo Zeroのようなシステムでその兆しを見てきました。AlphaGo Zeroは、人間の指導なしに、何百万ものゲームを自分自身と対戦し、人には到達できないレベルのスキルに到達しました。現代のAIモデルは、独自のソフトウェアを書いたり、改良したり、さらには再編成したりできるようになり、時には何時間も自律的に作業することもあります。これらのシステムは、人間が一生にわたって吸収できる量を超える情報を処理し、統合します。膨大なデータセットに取り組み、大量の書籍を批評し、複雑な問題に対する新しい解決策を発見します。 しかし、これらの進歩にもかかわらず、依然として人間の手が必要です。AIには、目標を設定し、進捗状況を評価し、真のブレークスルーがいつ発生するかを判断するために私たちが必要です。完全に独立した自己改善、つまり真の超知能への飛躍は、今日のモデルには柔軟で一般的な推論が欠けているため、依然として難しいものです。AIは、集中した分野では優れており、アルゴリズムを発見したり、多くの人々を困らせる大学院レベルの数学を解いたりすることもありますが、異なる分野間で洞察を伝えたり、堅牢で一般的な方法で自律的に知性をアップグレードしたりすることはまだできません。 欠けている要素は、しばしば人工一般知能（AGI）と呼ばれるものです。これは、人間が1つの領域から学び、それを別の領域に適用できるようにする、適応性のある学際的な思考です。AIがこの限界を越え、膨大な知識、記憶、推論を組み合わせれば、AGIから超知能への飛躍は迅速かつ予測不可能なものとなる可能性があります。 この転換点にどれだけ近づいているかについての見解は、劇的に異なります。数年で到達すると考える専門家もいれば、インテリジェンスとは何かという基本的な理解がまだ欠けていると主張する専門家もいます。業界の安全性テストでは、現在のモデルは複雑なタスクを自律的に維持する能力を高めているものの、超知能の夜明けを示す暴走的な自己改善にはまだ至っていないことが示されています。 一つだけ明らかなことは、SFと現実の境界線が曖昧になっているということです。AIが一般的な知性を達成し、人間のような判断力と超人的なスピードと記憶力を融合させることができれば、知性の爆発への道のりは、私たちが思っているよりもはるかに短くなる可能性があります。問題は、この飛躍が起こるかどうかではなく、それを越えた瞬間を認識できるかどうか、そして次に来るものに備えられるかどうかであるように思われます。