Como as IAs veem o nosso mundo

Um homem caminha pela rua à noite. Do outro lado de uma vitrine, um iMac se move como se o seguisse com o olhar: quando o homem pula, o computador se inclina; se ele faz uma careta, a máquina abre o leitor de CD. Era um anúncio da Apple de 2002, mas hoje a questão não é mais quando as máquinas vão nos olhar, mas como elas já nos veem. E a resposta é mais estranha do que pensamos: o erro não é acreditar que a inteligência artificial deva apenas "entender" o nosso mundo, mas não ver que, na verdade, ela o reconstrói do zero, usando códigos e atalhos que nos parecem ridículos ou perigosos. A ideia comum é que devemos ensinar as IAs a ver como nós, a raciocinar como nós. Mas a verdade é que elas percebem de acordo com lógicas completamente diferentes e, muitas vezes, são forçadas a simplificar a realidade a ponto de distorcê-la. A verdadeira mudança de perspectiva é que não devemos apenas explicar as coisas às máquinas: devemos aprender a ver o mundo também do ponto de vista delas, para entender onde erram, onde tropeçam e por quê. Um exemplo concreto: quando a artista Elisa Giardina Papa trabalhava para treinar uma IA para reconhecer imagens, ela tinha que desenhar "caixas delimitadoras" ao redor de cada objeto, por exemplo, uma mulher no sofá. Mas se o padrão na camiseta da mulher se confundia com o tecido do sofá, a máquina perdia a capacidade de distinguir os dois objetos. Para o algoritmo, conta Papa, "a imagem acabava em uma categoria queer, indeterminada: nem apenas mulher, nem apenas sofá". Não foi um erro trivial: foi o limite estrutural de um sistema que vê apenas o que pode rotular. E a mesma coisa acontece com objetos transparentes ou com uma cadeira colocada de lado: basta pouco para que a realidade saia dos padrões. O artista Eryk Salvaggio, que treinava uma IA para reconhecer cogumelos na floresta, tinha que ignorar todos os detalhes incomuns — exatamente o oposto do instinto humano, que busca a exceção. O resultado? As IAs veem o mundo como se fosse uma média estatística, não uma coleção de detalhes únicos. E quando tentamos adaptar o mundo a elas, coisas estranhas acontecem. As lojas Amazon Go, onde era possível sair sem passar pelo caixa, precisavam de mil pessoas para verificar manualmente as imagens e corrigir os erros da IA, e a cada mil compras, em setecentos casos, era necessária a intervenção humana. No final, o experimento foi encerrado. Outro caso extremo: a tragédia de Elaine Herzberg, atropelada por um carro da Uber sem motorista. Os sensores "viram" a mulher na rua, mas não conseguiram classificá-la: às vezes como um veículo, às vezes como um objeto desconhecido, às vezes como uma ciclista. Como nunca a rotulou como uma pedestre fora da faixa de pedestres, o sistema não freou. O problema não era a tecnologia, mas a sua incapacidade de aceitar algo que não se encaixava nos padrões predefinidos. Mas essas simplificações não são apenas técnicas. Tom Williams, um estudioso de robótica, conta como as IAs muitas vezes não entendem quem fala com sotaques ou dialetos diferentes — forçando as pessoas a "branquear" a própria voz para serem reconhecidas. E quando as empresas tentam melhorar os dados para serem mais inclusivas, correm o risco de criar novas formas de vigilância ou reproduzir velhos preconceitos, como quando a Microsoft usou categorias raciais emprestadas da pseudociência do século XIX. Então, o que fazer? Uma alternativa vem desses mesmos sistemas que tentam superar as "bounding boxes". A Waymo começou a representar as pessoas como stickmans digitais, esqueletos de pontos que permitem entender não apenas se alguém está atravessando a rua, mas também para que direção está olhando ou se está prestes a mudar de direção. Dessa forma, o computador não se limita a "colocar em uma caixa" o que vê, mas tenta interpretar poses, intenções, movimentos. É um passo em direção a uma ideia de empatia não emocional, mas cognitiva: não pedimos à IA que sinta emoções, mas que entenda — pelo menos em parte — o nosso modo de ser e de nos mover. Para conseguir isso, também precisamos repensar nossas interfaces: não basta que sejam fáceis para nós, elas devem colocar as IAs em condições de realmente captar a complexidade do ambiente humano. Assim como antes usávamos ícones em forma de pasta para ajudar as pessoas a entender os computadores, agora também precisamos construir "tradutores" que ajudem as IAs a captar as nuances do nosso mundo, e não apenas sua versão simplificada. E a reviravolta final é esta: o caminho não é apenas ensinar as IAs a ver como nós, mas aprender a conviver com a sua maneira alienígena de ler a realidade, sabendo onde elas podem tropeçar ou ferir. Caso contrário, corremos o risco de viver em um mundo projetado para algoritmos, não para pessoas. Se você achava que "ensinar as IAs a ver como nós" era o suficiente, prepare-se para mudar de ideia: também devemos aprender a ver como elas, para evitar que o mundo se torne uma série de caixas onde ninguém é realmente reconhecido. Se esta perspectiva o impressionou, no Lara Notes você pode sinalizar isso com I'm In — é o gesto que diz: esta visão agora faz parte da sua maneira de pensar. E se você contar a alguém esta noite — talvez lembrando o absurdo das lojas Amazon Go ou o caso de Elaine Herzberg — no Lara Notes você pode marcar quem estava com você com Shared Offline, para que você saiba que aquela conversa foi importante. Esta jornada pelas percepções da IA vem da NOEMA e economizou 14 minutos para você.