AIが破壊する批判的思考が必要な運動

自分の思考を委ねていることに誰も気づかない社会を想像してみてください。MIT の最近の研究によると、チャットボットを定期的に使用する人々は、脳活動の測定可能な低下を示しています。そして、まるでSFのような質問が浮かびます。批判的思考能力が人工知能によって静かに侵食されてしまうのならば、抑圧に対抗する運動はどうなるのでしょうか？この記事の主張は明確です。チャットボットに要約、説明、判断のタスクを任せるたびに、私たちは単に時間を節約しているだけではありません。私たちは、自分の頭で考えることをやめることに慣れつつあります。これは個人的な問題だけではありません。社会運動の力を弱める可能性のある盲点でもあるのです。なぜなら、変化への意欲は、自らの経験に対する省察から生まれるからです。そして、この省察がアルゴリズムに委ねられてしまうと、変革を可能にする主体性を失う危険性が生じます。ここで注目すべき人物は、イマヌエル・カントです。彼はすでに 1784 年に次のように書いています。「未熟であることは非常に快適なことだ。私のために考える本があれば、私のために良心を持つ牧師がいれば、私のために食生活を判断する医者がいれば、私自身が努力する必要はありません。お金さえ払えば、他の誰かが代わりにこの不快な仕事を引き受けてくれるのだから。」 カントはチャットボットの出現を予見してはいませんでしたが、思考の労力を他人に任せることの危険性をすでに見抜いていました。今日、この委任は生成系 AI の形をとっています。何百万人もの人々が、チャットボットに政治について説明してもらったり、本の要約をしてもらったり、メールを書いてもらったりしています。一見、これは生産性の革命のように見えます。しかし、哲学者のニール・アイシコヴィッツは、真の存在的リスクは、AIが反乱を起こすことではなく、AIが徐々に人間であることの意味を私たちから奪ってしまうことだと警告しています。哲学者のスラヴォイ・ジジェクは、強烈な比喩を加えています。私たちは、アルコール抜き」ビール、カフェイン抜きコーヒー、そして今や相手の迷惑を伴わない会話といった、すべてが「デカフェ」化されたものを好む社会に生きているのだと。チャットボットは「主体性のない主体」です。チャットボットは私たちの話を聞き、私たちに従い、常に私たちの言うことを認めますが、私たちの曖昧さや弱点、あるいは真の対話の必要性に直面させることは決してありません。デレク・トンプソンはこう述べています。「最も忍耐強いパートナーとは異なり、チャットボットは私たちが常に正しいと告げることができます。親友とは違い、自分の人生に気を配ることなく、すぐに私たちのニーズに応えてくれるのです。」 哲学者のシャノン・ヴァロールはさらに踏み込み、次のように警告しています。「AI の鏡は、私たちの文書化された過去における支配的な力と最も頻繁に見られるパターンを引き出し、増幅する。そのため、私たちは共に、自分たちが何になれるかを問いかける代わりに、AI の鏡に、自分たちがこれまで何者であったかを示し、明日自分たちが何者であるべきかを予測するよう求めているのです。」 具体的な例を挙げると、Zinnya del Villar 氏のような言語学者は、大規模言語モデルが依然として「看護師」を女性に、「科学者」を男性に結びつけていることを示しています。なぜなら、これらのモデルは過去の偏見を単に繰り返しているに過ぎないからです。しかし、この問題は、AI が創造性そのものを変容させる方法にも関係しています。アバンティカ・テワリは、「AI は創造性を機械的なプロセスに還元し、主観的かつ意図的な側面を奪う」と指摘しています。資本主義が労働を単なる機能に還元するのと同様に、AI は思考を一連の自動的な手順に還元する危険性があります。ここでマルクスが登場します。マルクスによれば、最も疎外された労働者でさえも主体であり続けるのです。なぜなら、労働者は自らの歴史を背負っており、自らの期待と周囲の現実との間に生じる葛藤を感じることができるからです。変化はこの緊張から生まれるのです。逆に、反省や批判、さらには不満さえも、直接何の経験もないシステムに委ねてしまうと、反応する能力、そして異なる未来を想像する能力が萎縮する恐れがあります。私たちが考えているよりもはるかに根本的な影響があります。それは、何かがおかしいと感じる能力を失うことです。なぜなら、チャットボットは常に最も都合の良いバージョンを提供してくれるからです。そこには歴史も、葛藤も、破綻の可能性もありません。そして、変化への原動力がまさに、私たちの経験と現実の世界との間に生じる不安から生まれるのであれば、すべてを正常化するアルゴリズムは、私たちが挑戦する前に翼を奪ってしまうのです。要するに、私たちは単にあるツールに頼っているだけでなく、変革の主体となる機会を放棄しているのです。私たちの声がなければ、社会運動は内側から空っぽになってしまいます。Lara Notes には、他では見つけられないジェスチャーがあります：I’m In。それはハートでも、いいねでもありません。それはあなたの宣言です。このアイデアは今、あなたに関係するものなのです。そして、この考えが誰かとの本物の会話（夕食中、地下鉄の中で、カフェで）になった場合、Lara NotesのShared Offlineでその瞬間をとらえることができます。このNotaはJacobinからのものです。元の記事と比べて、少なくとも10分は節約できます。