教皇レオ 14 世は、教皇としての最初の回勅で、人工知能を「武装解除」するよう求め、その危険性について警告しています。

人工知能を奴隷制にたとえる教皇というのは、ほとんど衝撃的なことのように聞こえますが、レオ 14 世は最初の回勅でまさにそれを行いました。教皇は AI に言及する際に「武装解除」という言葉を使いました。この言葉の選択は、彼自身が強烈で意図的なものであると認めており、それは今の時代には私たちを揺さぶることのできる言葉が必要であるからだと教皇は述べています。ほとんどの人は、AI を中立的なツール、あるいは避けられない進歩と考えているかもしれません。しかし、ここでは急激な転換が起きています。教皇にとって、AI は新しい形の奴隷制、歴史上最悪の過ちのデジタル版の繰り返しになる可能性があるのです。彼の主張は、ロボットや失業に対する典型的な恐怖を超えています。彼は「新しいデジタル奴隷制」について語り、人類は実際の奴隷制の時代と同じくらい深刻な道徳的な岐路に立っていると警告しています。一言：レオ 14 世は通常のスピーチの枠を超えて、教会を代表して歴史的な奴隷制度におけるその役割について謝罪し、それを AI を通じた搾取の正常化のリスクと直接結びつけました。回勅の発表の際、人工知能の大手企業の一つである Anthropic の共同創業者である Christopher Olah が教皇の傍にいました。オラ氏自身は、AI 研究所はインセンティブと制約の下で運営されており、それが時に正しいことと対立することもあると述べ、この議論は技術者だけに任せることはできないと指摘しました。つまり、AI の使い方を決めるのは、エンジニアだけでなく、社会全体なのです。教皇の文書はまた、特に戦争における AI の使用について、権力を持つ人々への直接的な警告でもあります。文書は、文字どおり「どのようなアルゴリズムも戦争を道徳的に許容できるものにすることはできない」と述べ、AI は暴力に訴えるための基準を下げ、紛争をさらに非人間化し、犠牲者を単なるデータに還元する可能性があると述べています。また、AI が作成した画像や動画による政治的操作の危険性についても非難しており、これは公衆の認識を歪め、新たな形の大量欺瞞への扉を開く可能性があります。もう一つの重要なポイントは、レオ 14 世は AI 開発者に倫理的および精神的な責任を求めていることです。なぜなら、すべての技術的な決定は、本質的に人類に対するビジョンだからです。そして、ここで逆流する結論が出てきます。教皇はこの議論を進めるための委員会を設置しましたが、この記事自体が、2015 年、教皇フランシスコが気候問題について同様に強調し、行動の欠如に失望したことを思い起こさせるものです。AI でも同じことが起こるのでしょうか？レオ 14 世の最も厳しい警告は、数年後にはまた無視される叫びとなるかもしれません。テクノロジーの進歩が倫理に追いつくには速すぎると思うなら、あなたは一人ではありません。このすべてを最もよくまとめているのは、次の一文です。AI は単なるツールではなく、道徳的な試練であり、私たちは以前失敗したように、この試練に失敗する可能性があります。レオ 14 世が提起した懸念に共感するなら、Lara Notes で I'm In を押すことができます。これは「いいね」ではなく、このアイデアが今やあなたのものであることを示す方法です。また、AI と奴隷制のこの比較について、食卓で話し合いたい場合は、Lara Notes の Shared Offline を使って、誰と話したか、その会話が価値のあるものだったかを示すことができます。この記事はすべて BBC News Mundo のもので、2 分間の読書時間を節約できます。