AIが私たちの世界をどのように見ているか

夜、男が通りを歩いている。ショーウィンドウの向こう側では、iMacがまるで男性を視線で追っているかのように動いています。男性がジャンプするとコンピューターは傾き、しかめっ面をするとCDプレーヤーを開きます。これは2002年のAppleの広告でした。しかし今日の問題は、いつマシンが私たちを見るかではなく、すでにどのように私たちを見ているかです。そしてその答えは、私たちが考えている以上に奇妙なものです。間違っているのは、人工知能は私たちの世界を「理解」するだけでよいと信じていることではなく、実際には、私たちには馬鹿げている、または危険に思えるコードやショートカットを使って、ゼロから世界を再構築していることに気づいていないことです。一般的な考え方は、AIに私たちのように見ること、私たちのように考えることを教えなければならないということです。しかし、実際には、AIはまったく異なる論理に従って認識しており、しばしば現実を歪めるほどに単純化することを余儀なくされています。真の視点の転換は、私たちがマシンに物事を説明するだけでなく、マシンの視点からも世界を見ることを学び、マシンがどこで間違い、どこでつまずき、なぜそうなるのかを理解しなければならないということです。具体的な例を挙げると、アーティストのエリーザ・ジャルディーナ・パパは、画像認識のためにAIを訓練する作業をしていたとき、ソファに座っている女性など、各オブジェクトの周りに「バウンディングボックス」を描く必要がありました。しかし、女性のTシャツの柄がソファの生地と混ざり合うと、マシンは2つの対象を区別する能力を失いました。パパ氏は、アルゴリズムにとっては「画像はクィアな、不確定なカテゴリーに分類されました。女性だけでも、ソファだけでもありませんでした」と話します。これは些細なエラーではありませんでした。ラベル付けできるものだけを見るシステムの構造的な限界でした。透明な物体や横に置かれた椅子でも同じことが起こります。現実が枠組みから外れるには、わずかなことで十分なのです。森の中のキノコを認識するようにAIを訓練していたアーティストのエリク・サルヴァッジョは、例外を探す人間の本能とは正反対に、珍しいディテールはすべて無視しなければなりませんでした。その結果は？AIは、世界をユニークなディテールの集まりではなく、統計的な平均として捉えます。そして、私たちが世界をAIに合わせようとすると、奇妙なことが起こります。レジを通らずに出ることができるAmazon Goの店舗では、画像を手動でチェックし、AIのエラーを修正するために1,000人の人員が必要でした。1,000回の購入のうち、700回の場合に人間の介入が必要でした。最終的には、この実験は終了しました。もう一つの極端なケースは、運転手のいないUberの車に轢かれたエレーン・ハーツバーグの悲劇です。センサーは路上にいる女性を「見た」ものの、彼女を分類することができませんでした。時には車両、時には未知の物体、時には自転車に乗っている人として。歩行者としても、横断歩道外にいるものとしても一度もラベル付けされなかったため、システムはブレーキをかけませんでした。問題はテクノロジーではなく、事前に定義されたパターンに当てはまらないものを受け入れることができなかったことでした。しかし、これらの単純化は技術的なものだけではありません。ロボット工学の研究者であるトム・ウィリアムズは、AIが異なるアクセントや方言で話す人を誤解することが多いと述べています。そのため、認識されるために自分の声を「白くする」ことを余儀なくされるのです。そして、企業がより包括的なものになるためにデータの改善を試みると、新たな形の監視を生み出すか、古い偏見を再現するリスクがあります。マイクロソフトが 19 世紀の疑似科学から借用した人種カテゴリーを使用したときのように。では、どうすればいいのでしょうか？代替手段は、「バウンディングボックス」を克服しようとする同じシステムから生まれています。Waymo は、人々をデジタルのスティックマンとして表現し始めました。これは、誰かが道路を横切っているかどうかだけでなく、その人がどの方向を見ているか、あるいは方向を変えようとしているかを理解することを可能にする点のスケルトンです。このようにして、コンピューターは見たものを単に「ボックスに入れる」だけでなく、姿勢、意図、動きを解釈しようとします。これは、感情的ではなく、認知的な共感の概念に向けた一歩です。AI に感情を持つことを求めているのではなく、私たちの在り方や動き方を、少なくとも部分的には理解することを求めているのです。そのためには、私たちのインターフェースも見直す必要があります。私たちにとって使いやすいだけでは不十分で、AI が人間の環境の複雑さを本当に把握できるようにする必要があります。かつてはフォルダの形をしたアイコンを使って、人々がコンピューターを理解するのを助けたように、今では、単に簡素化されたバージョンではなく、私たちの世界のニュアンスを理解するのに AI を助ける「翻訳者」も構築する必要があります。そして、最終的な逆転は次のとおりです。AI に私たちのように見ることを教えるだけでなく、AI がどこでつまずいたり、傷つけたりする可能性があるかを知りながら、現実を解釈するその異質な方法と共存することを学ぶことです。そうでなければ、私たちは人間ではなくアルゴリズムに合わせて設計された世界に生きる危険性があるのです。「AIに私たちのように見ることを教える」だけで十分だと思っていたなら、考えを変える準備をしてください。誰も本当に認められていない箱の集まりになる世界を避けるために、私たちもAIのように見ることを学ばなければなりません。この視点に感銘を受けた場合は、Lara Notesで I'm In でそれを示すことができます。これは、このビジョンは今やあなたの考え方の一部である、と言うジェスチャーです。そして、今夜誰かにこのことを話すなら、たとえば、アマゾンGoの店舗の馬鹿げたことや、エレーン・ハーツバーグのケースを思い出して、Lara NotesでShared Offlineを使って一緒にいた人をタグ付けすれば、その会話が重要だったことがわかるでしょう。AIの知覚に関するこの旅はNOEMAによるもので、あなたは14分節約しました。