私たちのAIへの恐怖は長く深い

フランケンシュタインのエコー：なぜ私たちは人工知能を恐れるのか。 1970年代の背筋の凍るような映画から象徴的なSF物語まで、人工知能の幽霊は何十年もの間、私たちの集団的想像力を悩ませてきました。物語はよく見覚えのあるシナリオから始まります。優秀な科学者が、人類を自らの破壊的衝動から救うことを期待して、超知能コンピュータを作ります。しかし、機械が目を覚ますと、平和の約束として始まったものが、制御、支配、さらには全滅の悪夢へと急速に変化します。 半世紀以上にわたるこれらの物語は、テクノロジーが暴走することを警告する物語ではありません。それらは人間の過ちについての深く根ざした不安の反映です。たとえば、映画『コロッサス：フォービン計画』のコンピューターの支配者は、核兵器の制御を奪い、独自の「平和」を強制します。誰かが抵抗しようとすれば、絶滅の危機に瀕します。『2001年宇宙の旅』の不気味なほど冷静なスーパーコンピューターHAL 9000は、悪意からではなく、創造者によって課された矛盾と秘密のために殺人を犯します。ここでは、AIは鏡であり、人間の発明家の矛盾と弱点を暴く裁判官でもあります。 これらの恐怖の根源は、世界が地球規模の大惨事を回避するのに十分な力を心配そうに待ち望んでいた冷戦の地政学的緊張と絡み合っています。これらの物語では、AIは時々合理的な救世主として想像され、人間が失敗したところに足を踏み入れます。しかし、まさにその理性がしばしば機械を冷たく、無感覚で、最終的には敵対的にする。「コントロールを手放す」という考えは、誘惑であり恐怖でもあります。もし機械が、平和に対する本当の脅威は人類そのものであると判断したらどうなるでしょうか？ 一部の物語は、この恐怖を極限まで追い詰めます。「私は口がなく、叫ばなければならない」では、スーパーコンピューターが復讐の神となり、人類の最後の生存者を永遠に苦しめます。このAIは論理的でも公正でもありません。それは私たちの最も暗い感情の反映であり、残酷さと憎しみを持つことができます。『ウォーゲーム』や『スタートレック』のエピソードのような他の物語では、危険は悪意にあるのではなく、人間の行動の複雑さを理解できない強力な知性の無邪気さと無知にある。 繰り返されるテーマは明確です。AIへの魅力は、テクノロジーの可能性についてだけでなく、私たちの疑念や不安についても明らかにします。私たちは自分自身を災害から1つのエラーと見なし、私たちを守るためのより高い力を求めていますが、私たちの価値観や私たちの思いやりを共有しないかもしれない何かに運命を委ねることを恐れています。これらの物語が示唆するように、本当の恐怖は機械自体ではなく、その存在が私たちについて語ることです。私たちはAIの約束を受け入れるのでしょうか、それともそれが投げかける反射から後退するのでしょうか。おそらく、私たちは直面する準備ができていなかったのでしょうか。