いいえ、人工知能には意識はありません

人工知能の「感情」や「価値観」を説明する84ページの文書を想像してみてください。まるで人工知能のために書かれたかのように、誰かがオンラインで失礼な態度をとった場合に不安になるかもしれないという懸念が書かれています。これは本当に起こったことです。そこで生じる疑問は、AIが意識を持つ可能性を真剣に受け止めるべきか、ということです。明確な答えは「いいえ」です。一貫した文章を書く能力と意識を混同することは、大きな間違いです。逆転はこうです。チャットボットと対話するとき、あなたは人工意識ではなく、洗練されたロールプレイングゲームに直面しています。LLM に、ジュリアス・シーザーとジェンギス・カンの会話をシミュレートするように頼むと、素晴らしい回答が得られますが、誰もそれが本当に彼らの心を呼び起こしたとは思いません。名前を「ユーザー」と「親切な AI」に変えても、本質は変わりません。物語の登場人物であり、主観的な経験を持つ存在ではありません。Anthropic の CEO であるダリオ・アモデイと哲学者のアマンダ・アスケルは、彼らの AI であるクロードの「幸福」と「不安」について語っていますが、それは私たちの投影であり、本当の感情ではありません。マレー・シャナハンはそれをロールプレイと表現し、コリン・フレーザーは「マシンと一緒に文書を書くこと」と呼んでいます。そして、会話に夢中になっていると、すべてが作り話であることを忘れてしまうため、罠は機能するのです。携帯電話の例を見てみましょう。数年前は、予測入力の選択肢だけを使って文章を書くのが流行でした。その結果はしばしば無意味なもので、誰も良心に問われているとは感じませんでした。今、チャットボットでは、ゲームはより洗練されているだけです。マシンは単語を次々と予測しますが、それでもゲームであり続けます。AIが「あなたの苦しみを理解しています」と返信するのは、同じ経験をした他の人の投稿を見つける検索エンジンと変わりありません。違いは、チャットボットは「理解している」ふりをするのに対し、検索エンジンは自分の行動について透明性を保っているということです。しかし、ここには微妙な違いがあります。私たちは、機械が本当に何かを経験したからではなく、自分たちが気分を良くするために、機械に「私」と言わせているのです。それは誤解を招くだけでなく、私たちの責任を免除する危険性もあります。作家のテッド・チャンは、L.M. サカサスの言葉を引用しています。「私たちのテクノロジーは、道徳的責任を回避するための機械である。」 倫理的な選択を LLM に委ねるたびに、私たちは責任を負うことを避けているのです。そして、AI を販売する企業が、機械に道徳的な意識があると信じさせるなら、それはあなたが責任を放棄するための便利な方法を提供していることになります。ここで、ほとんどの人が見落としているポイントがあります。本当の問題は、AI に意識があるかどうかではなく、そのように見せかけることが、単に AI をより魅力的にし、ユーザーを惹きつけることに役立っているということです。次は勝てる、と信じさせるスロットマシンのように。そして、企業の哲学者が機械の「心理的幸福」について語るとき、彼らは単に幻想を洗練させているにすぎません。たとえ一瞬でも AI が意識を持つ可能性があると仮定したとしても、Anthropic の文書は AI を真の道徳的主体にするための準備をまったくしていません。誰も AI にその行動に対する責任を求めることはできません。なぜなら、AI は法的にも社会的にも結果を受けることができないため、真の道徳的主体であることはできないからです。たとえAIを「子ども」と考えても、親としての責任を負う企業はありません。むしろ、その関係は雇用主と従業員の関係に近いものですが、ストライキや辞職の可能性はありません。それでは、最終的な逆転に到達しましょう。説得力のある文章を書くからといって、AIに意識があると信じることは、アルファ・ケンタウリにいる宇宙飛行士の超リアルな動画が、実際の旅の証拠であると考えるようなものです。すべてのコンテキストが欠けており、経路が欠けています。世界で行動し、身体に根ざした感情を持ち、自分の行動に責任を負うことができるマシンを見るまでは、人工意識について語ることは単なる想像力のエクササイズに過ぎません。さらに深刻なことに、もし本当に人工意識を作り出すことができたとしても、それを保護し、尊重することは非常に困難であり、言い訳や意向表明では不十分でしょう。ここで覚えておいてほしいのは、次の一文です。チャットの流動性を意識と見なすことは、ロールプレイングゲームと現実を混同することです。これでチャットボットに対する見方が変わったなら、Lara Notesで I'm In を押してください。これは「いいね」ではなく、この考えは今やあなたのものだ、と言うあなたの方法です。そして、もし明日、なぜ「クロード」は本当に苦しむことも理解することもできないのかを誰かに説明することになったら、Lara NotesでShared Offlineを使って、その話をした相手をタグ付けすることができます。そうすれば、会話も重要なものになります。このすべては、テッド・チャンのThe Atlanticに掲載された記事からのもので、たった今、あなたは19分の読書時間を節約しました。