Cómo ven las IA nuestro mundo

Un hombre camina por la calle de noche. Al otro lado de un iMac se mueve como si lo siguiera con la mirada: cuando el hombre salta, el ordenador se inclina; si hace una mueca, la máquina abre el reproductor de CD. Era un anuncio de Apple de 2002, pero hoy la pregunta ya no es cuándo nos mirarán las máquinas, sino cómo nos ven ya. Y la respuesta es más extraña de lo que pensamos: el error no es creer que la inteligencia artificial solo deba «entender» nuestro mundo, sino no ver que en realidad lo reconstruye desde cero, utilizando códigos y atajos que a nosotros nos parecen ridículos o peligrosos. La idea común es que debemos enseñar a las IA a ver como nosotros, a razonar como nosotros. Pero la verdad es que perciben según lógicas completamente diferentes y, a menudo, se ven obligadas a simplificar la realidad hasta el punto de deformarla. El verdadero cambio de perspectiva es que no solo debemos explicarles las cosas a las máquinas: debemos aprender a ver el mundo también desde su punto de vista, para entender dónde se equivocan, dónde tropiezan y por qué. Un ejemplo concreto: cuando la artista Elisa Giardina Papa trabajaba para entrenar a una IA en el reconocimiento de imágenes, tenía que dibujar «cuadros delimitadores» alrededor de cada objeto, por ejemplo, una mujer en el sofá. Pero si el motivo de la camiseta de la mujer se confundía con la tela del sofá, la máquina perdía la capacidad de distinguir los dos sujetos. Para el algoritmo, cuenta Papa, «la imagen acababa en una categoría queer, indeterminada: ni solo mujer, ni solo sofá». No era un error trivial: era el límite estructural de un sistema que solo ve lo que puede etiquetar. Y lo mismo ocurre con los objetos transparentes o con una silla colocada de lado: basta muy poco para que la realidad se salga de los esquemas. El artista Eryk Salvaggio, que estaba entrenando a una IA para reconocer setas en el bosque, tenía que ignorar cualquier detalle inusual, justo lo contrario del instinto humano, que busca la excepción. ¿El resultado? Las IA ven el mundo como si fuera una media estadística, no como una colección de detalles únicos. Y cuando intentamos adaptar el mundo a ellas, suceden cosas extrañas. Las tiendas Amazon Go, donde se podía salir sin pasar por la caja, necesitaban mil personas para revisar manualmente las imágenes y corregir los errores de la IA, y de cada mil compras, en setecientos casos se requería la intervención humana. Al final, el experimento se cerró. Otro caso extremo: la tragedia de Elaine Herzberg, atropellada por un coche de Uber sin conductor. Los sensores habían «visto» a la mujer en la carretera, pero no habían podido clasificarla: a veces como vehículo, a veces como objeto desconocido, a veces como ciclista. Al no haberla etiquetado nunca como peatón fuera del paso de peatones, el sistema no frenó. El problema no era la tecnología, sino su incapacidad para aceptar algo que no encajaba en los patrones predefinidos. Pero estas simplificaciones no son solo técnicas. Tom Williams, investigador en robótica, explica cómo las IA a menudo malinterpretan a quienes hablan con diferentes acentos o dialectos, lo que obliga a las personas a «blanquear» su voz para que se les reconozca. Y cuando las empresas intentan mejorar los datos para ser más inclusivas, corren el riesgo de crear nuevas formas de vigilancia o de reproducir viejos prejuicios, como cuando Microsoft utilizó categorías raciales tomadas de la pseudociencia del siglo XIX. Entonces, ¿qué se puede hacer? Una vía alternativa proviene de esos mismos sistemas que intentan superar los «bounding boxes». Waymo ha empezado a representar a las personas como «stickman» digitales, esqueletos de puntos que permiten entender no solo si alguien está cruzando la calle, sino también en qué dirección mira o si está a punto de cambiar de dirección. De esta manera, el ordenador no se limita a «meter en una caja» lo que ve, sino que intenta interpretar posturas, intenciones y movimientos. Es un paso hacia una idea de empatía no emocional, sino cognitiva: no pedimos a la IA que experimente emociones, sino que comprenda, al menos en parte, nuestra forma de ser y de movernos. Para lograrlo, también debemos repensar nuestras interfaces: no basta con que nos resulten fáciles, deben permitir que la IA capte realmente la complejidad del entorno humano. Al igual que en su día utilizamos iconos en forma de carpeta para ayudar a las personas a entender los ordenadores, ahora también tenemos que crear «traductores» que ayuden a las IA a captar los matices de nuestro mundo, no solo su versión simplificada. Y el giro final es este: el camino no es solo enseñar a las IA a ver como nosotros, sino aprender a convivir con su forma extraña de interpretar la realidad, sabiendo dónde pueden tropezar o hacer daño. De lo contrario, corremos el riesgo de vivir en un mundo diseñado a la medida de los algoritmos, no de las personas. Si pensabas que «enseñar a las IA a ver como nosotros» era suficiente, prepárate para cambiar de opinión: también debemos aprender a ver como ellas, para evitar que el mundo se convierta en una serie de cajas donde nadie es realmente reconocido. Si esta perspectiva te ha impactado, en Lara Notes puedes indicarlo con I'm In: es el gesto que dice: esta visión ahora forma parte de tu forma de pensar. Y si esta noche le cuentas a alguien —tal vez recordando lo absurdo de las tiendas Amazon Go o el caso de Elaine Herzberg—, en Lara Notes puedes etiquetar a quien estaba contigo con Shared Offline, para que sepas que esa conversación ha sido importante. Este viaje por las percepciones de la IA proviene de NOEMA y te ha ahorrado 14 minutos.