Comment les IA voient notre monde

Un homme marche dans la rue la nuit. De l'autre côté d'une vitrine, un iMac bouge comme s'il le suivait du regard : quand l'homme saute, l'ordinateur s'incline, s'il fait une grimace, la machine ouvre le lecteur CD. C'était une publicité Apple de 2002, mais aujourd'hui, la question n'est plus de savoir quand les machines nous regarderont, mais comment elles nous voient déjà. Et la réponse est plus étrange qu'on ne le pense : l'erreur n'est pas de croire que l'intelligence artificielle doit seulement « comprendre » notre monde, mais de ne pas voir qu'en réalité, elle le reconstruit à partir de zéro, en utilisant des codes et des raccourcis qui nous semblent ridicules ou dangereux. L'idée commune est que nous devons apprendre aux IA à voir comme nous, à raisonner comme nous. Mais la vérité est qu'elles perçoivent selon des logiques complètement différentes, et qu'elles sont souvent obligées de simplifier la réalité au point de la déformer. Le véritable changement de perspective est que nous ne devons pas seulement expliquer les choses aux machines : nous devons apprendre à voir le monde également de leur point de vue, pour comprendre où elles se trompent, où elles échouent et pourquoi. Un exemple concret : lorsque l'artiste Elisa Giardina Papa travaillait à former une IA à la reconnaissance d'images, elle devait dessiner des « bounding boxes » autour de chaque objet, par exemple une femme sur un canapé. Mais si le motif sur le t-shirt de la femme se confondait avec le tissu du canapé, la machine perdait la capacité de distinguer les deux sujets. Pour l'algorithme, raconte Papa, « l'image se retrouvait dans une catégorie queer, indéterminée : ni seulement une femme, ni seulement un canapé ». Ce n'était pas une erreur banale : c'était la limite structurelle d'un système qui ne voit que ce qu'il peut étiqueter. Et il en va de même avec des objets transparents ou avec une chaise placée de côté : il suffit de peu pour que la réalité sorte des sentiers battus. L'artiste Eryk Salvaggio, qui entraînait une IA à reconnaître les champignons dans les bois, devait ignorer tous les détails inhabituels – l'exact opposé de l'instinct humain, qui recherche l'exception. Le résultat ? Les IA voient le monde comme s'il s'agissait d'une moyenne statistique, et non d'un ensemble de détails uniques. Et lorsque nous essayons d'adapter le monde à elles, il se passe des choses étranges. Les magasins Amazon Go, où l’on pouvait sortir sans passer par la caisse, avaient besoin de mille personnes pour vérifier manuellement les images et corriger les erreurs de l’IA, et sur mille achats, dans sept cents cas, une intervention humaine était nécessaire. Finalement, l’expérience a été arrêtée. Un autre cas limite : la tragédie d’Elaine Herzberg, renversée par une voiture Uber sans chauffeur. Les capteurs avaient « vu » la femme sur la route, mais n'avaient pas réussi à la classer : parfois comme un véhicule, parfois comme un objet inconnu, parfois comme une cycliste. Ne l'ayant jamais identifiée comme un piéton en dehors des passages pour piétons, le système n'a pas freiné. Le problème n'était pas la technologie, mais son incapacité à accepter quelque chose qui ne rentrait pas dans les schémas prédéfinis. Mais ces simplifications ne sont pas seulement techniques. Tom Williams, chercheur en robotique, explique comment les IA comprennent souvent mal les personnes qui parlent avec des accents ou des dialectes différents, les obligeant à « blanchir » leur voix pour être reconnues. Et lorsque les entreprises tentent d'améliorer les données pour être plus inclusives, elles risquent de créer de nouvelles formes de surveillance ou de reproduire de vieux préjugés, comme lorsque Microsoft a utilisé des catégories raciales empruntées à la pseudoscience du XIXe siècle. Alors, que faire ? Une voie alternative provient de ces mêmes systèmes qui tentent de dépasser les « bounding boxes ». Waymo a commencé à représenter les personnes sous forme de stickmans numériques, des squelettes de points qui permettent de comprendre non seulement si quelqu'un traverse la route, mais aussi dans quelle direction il regarde, ou s'il est sur le point de changer de direction. De cette façon, l'ordinateur ne se contente pas de « mettre dans une boîte » ce qu'il voit, mais il essaie d'interpréter les poses, les intentions, les mouvements. C’est un pas vers une idée d’empathie non pas émotionnelle, mais cognitive : nous ne demandons pas aux IA de ressentir des émotions, mais de comprendre – au moins en partie – notre façon d’être et de bouger. Pour y parvenir, nous devons également repenser nos interfaces : il ne suffit pas qu’elles soient faciles pour nous, elles doivent permettre aux IA de vraiment saisir la complexité de l’environnement humain. Tout comme nous utilisions autrefois des icônes en forme de dossier pour aider les gens à comprendre les ordinateurs, nous devons maintenant également créer des « traducteurs » qui aident les IA à saisir les nuances de notre monde, et pas seulement sa version simplifiée. Et le renversement final est le suivant : la solution n'est pas seulement d'enseigner aux IA à voir comme nous, mais d'apprendre à vivre avec leur façon étrangère de lire la réalité, en sachant où elles peuvent trébucher ou blesser. Sinon, nous risquons de vivre dans un monde conçu pour les algorithmes, pas pour les personnes. Si tu pensais qu'« apprendre aux IA à voir comme nous » suffisait, prépare-toi à changer d'avis : nous devons aussi apprendre à voir comme elles, pour éviter que le monde ne devienne une série de boîtes où personne n'est vraiment reconnu. Si cette perspective t'a marqué, tu peux le signaler sur Lara Notes avec I'm In — c'est le geste qui dit : cette vision fait maintenant partie de ma façon de penser. Et si tu en parles à quelqu'un ce soir, en évoquant peut-être l'absurdité des magasins Amazon Go ou le cas d'Elaine Herzberg, tu peux taguer sur Lara Notes les personnes qui étaient avec toi avec Shared Offline, pour savoir que cette conversation a compté. Ce voyage dans les perceptions de l'IA vient de NOEMA et t'a fait gagner 14 minutes.