Come le IA vedono il nostro mondo

Un uomo cammina per strada di notte. Dall'altra parte di una vetrina, un iMac si muove come se lo seguisse con lo sguardo: quando l'uomo salta, il computer si inclina, se fa una smorfia la macchina apre il lettore CD. Era una pubblicità Apple del 2002, ma oggi la domanda non è più quando le macchine ci guarderanno, ma come ci vedono già. E la risposta è più strana di quanto pensiamo: l'errore non è credere che l'intelligenza artificiale debba solo “capire” il nostro mondo, ma non vedere che in realtà lo ricostruisce da zero, usando codici e scorciatoie che a noi sembrano ridicoli o pericolosi. L'idea comune è che dobbiamo insegnare alle IA a vedere come noi, a ragionare come noi. Ma la verità è che loro percepiscono secondo logiche completamente diverse, e spesso sono costrette a semplificare la realtà fino a deformarla. Il vero salto di prospettiva è che non dobbiamo solo spiegare le cose alle macchine: dobbiamo imparare a vedere il mondo anche dal loro punto di vista, per capire dove sbagliano, dove inciampano e perché. Un esempio concreto: quando l'artista Elisa Giardina Papa lavorava per addestrare un'AI al riconoscimento di immagini, doveva disegnare delle “bounding box” attorno a ogni oggetto, per esempio una donna sul divano. Ma se il motivo sulla maglietta della donna si confondeva con il tessuto del divano, la macchina perdeva la capacità di distinguere i due soggetti. Per l'algoritmo, racconta Papa, “l'immagine finiva in una categoria queer, indeterminata: né solo donna, né solo divano”. Non era un errore banale: era il limite strutturale di un sistema che vede solo quello che può etichettare. E la stessa cosa succede con oggetti trasparenti o con una sedia messa di lato: basta poco perché la realtà esca dagli schemi. L'artista Eryk Salvaggio, che addestrava una IA a riconoscere funghi nei boschi, doveva ignorare ogni dettaglio insolito — l'esatto opposto dell'istinto umano, che cerca l'eccezione. Il risultato? Le IA vedono il mondo come se fosse una media statistica, non una raccolta di dettagli unici. E quando proviamo ad adattare il mondo a loro, succedono cose strane. I negozi Amazon Go, dove si poteva uscire senza passare dalla cassa, avevano bisogno di mille persone per controllare manualmente le immagini e correggere gli errori dell'AI, e ogni mille acquisti, in settecento casi serviva l'intervento umano. Alla fine, l'esperimento è stato chiuso. Un altro caso limite: la tragedia di Elaine Herzberg, investita da un'auto Uber senza conducente. I sensori avevano “visto” la donna sulla strada, ma non erano riusciti a classificarla: a volte come veicolo, a volte come oggetto sconosciuto, a volte come ciclista. Non avendola mai etichettata come pedone fuori dalle strisce, il sistema non ha frenato. Il problema non era la tecnologia, ma la sua incapacità di accettare qualcosa che non rientrava negli schemi predefiniti. Ma queste semplificazioni non sono solo tecniche. Tom Williams, studioso di robotica, racconta come le AI spesso fraintendano chi parla con accenti o dialetti diversi — costringendo le persone a “sbiancare” la propria voce per essere riconosciute. E quando le aziende tentano di migliorare i dati per essere più inclusive, rischiano di creare nuove forme di sorveglianza o di riprodurre vecchi pregiudizi, come quando Microsoft ha usato categorie razziali prese in prestito dalla pseudoscienza ottocentesca. Allora cosa si fa? Una via alternativa arriva da quegli stessi sistemi che provano a superare le “bounding box”. Waymo ha iniziato a rappresentare le persone come stickman digitali, scheletri di punti che permettono di capire non solo se qualcuno sta attraversando la strada, ma anche in che direzione guarda, o se sta per cambiare direzione. In questo modo, il computer non si limita a “mettere in una scatola” ciò che vede, ma cerca di interpretare pose, intenzioni, movimenti. È un passo verso un'idea di empatia non emotiva, ma cognitiva: non chiediamo alle IA di provare emozioni, ma di capire — almeno in parte — il nostro modo di essere e di muoverci. Per riuscirci, serve ripensare anche le nostre interfacce: non basta che siano facili per noi, devono mettere le IA in condizione di cogliere davvero la complessità dell'ambiente umano. Così come una volta abbiamo usato icone a forma di cartella per aiutare le persone a capire i computer, ora dobbiamo anche costruire “traduttori” che aiutino le IA a cogliere le sfumature del nostro mondo, non solo la sua versione semplificata. E il ribaltamento finale è questo: la strada non è solo insegnare alle IA a vedere come noi, ma imparare a convivere con il loro modo alieno di leggere la realtà, sapendo dove possono inciampare o ferire. Altrimenti, rischiamo di vivere in un mondo progettato su misura per gli algoritmi, non per le persone. Se pensavi che “insegnare alle IA a vedere come noi” bastasse, preparati a cambiare idea: dobbiamo anche imparare a vedere come loro, per evitare che il mondo diventi una serie di scatole dove nessuno è davvero riconosciuto. Se questa prospettiva ti ha colpito, su Lara Notes puoi segnalarlo con I'm In — è il gesto che dice: questa visione ora fa parte del tuo modo di pensare. E se la racconterai stasera a qualcuno — magari ricordando l'assurdo dei negozi Amazon Go o il caso di Elaine Herzberg — su Lara Notes puoi taggare chi era con te con Shared Offline, così sai che quella conversazione ha contato. Questo viaggio nelle percezioni delle IA viene da NOEMA e ti ha fatto risparmiare 14 minuti.