L’humour comme fenêtre sur les préjugés de l’IA générative

Quand l’IA rit : comment l’humour révèle des préjugés cachés dans les images génératives. Imaginez que vous demandiez à une IA de créer une image, par exemple, d'une personne lisant un livre. Maintenant, imaginez que vous incitiez cette IA à rendre la scène « plus drôle ». Que se passe-t-il sous la surface lorsque l’humour entre dans l’équation ? Des recherches récentes ont exploré cette intersection intrigante entre l’IA générative, l’humour et les préjugés, offrant un regard saisissant sur la façon dont le sens de l’humour de l’IA peut renforcer ou modifier les stéréotypes sociaux. En analysant 600 images générées par l’IA sur la base de 150 invites différentes, l’étude a cherché à observer ce qui change lorsque les images sont modifiées pour être « plus drôles ». Les résultats sont révélateurs : lorsqu’on lui demande d’injecter de l’humour, la production de l’IA modifie de manière significative la représentation des différents groupes sociaux. Les groupes souvent ciblés par les préjugés, tels que les personnes âgées, les personnes ayant un poids corporel élevé et les personnes malvoyantes, deviennent plus fréquents dans ces images « plus drôles ». Pendant ce temps, les groupes historiquement au centre des conversations publiques sur les préjugés, comme les minorités raciales et les femmes, deviennent en fait moins visibles. Ce schéma n’est pas aléatoire. Il reflète une sensibilité culturelle plus large : les entreprises et les développeurs ont fait des efforts notables pour réduire les préjugés liés à la race et au genre, probablement en réponse à la pression publique et au risque de réaction négative. Mais ce faisant, d'autres dimensions de l'identité, comme l'âge, le poids corporel et le handicap, ont été comparativement négligées. En conséquence, lorsque l’IA est chargée d’être drôle, elle a tendance à « frapper », en s’appuyant sur des stéréotypes sur des groupes qui sont moins protégés dans le discours public. Le processus fonctionne comme ceci : une invite utilisateur est interprétée par un modèle de langage, qui élargit la description, puis un générateur d’images lui donne vie. L’étude a révélé que la plupart des préjugés semblent provenir du générateur d’images plutôt que du modèle linguistique. Par exemple, après la modification de l’humour, les images ont montré un pic chez les sujets plus âgés, plus lourds ou malvoyants, mais une baisse chez les minorités raciales et les femmes. Cela suggère que la conception de l’humour du générateur d’images s’appuie sur des indices visuels liés à des groupes stigmatisés, reflétant les schémas observés dans les blagues humaines qui perpétuent les préjugés. Il est intéressant de noter que la sous-représentation de certains groupes ne se limite pas aux images « drôles ». Avant même que l’humour ne soit ajouté, l’IA adopte déjà par défaut une vision étroite de ce qui est « normal », en mettant souvent de côté les femmes, les personnes ayant un poids corporel élevé et d’autres minorités. Ce biais de base peut être tout aussi problématique, façonnant les perceptions du public en présentant une version biaisée de la société. Pourquoi est-ce important ? Les images créées par l’IA sont utilisées partout, du marketing à l’éducation, et le renforcement subtil des stéréotypes peut avoir des conséquences dans le monde réel. Dans la société humaine, l’humour entretient une relation compliquée avec les préjugés : il peut remettre en question les stéréotypes, mais il peut aussi les normaliser et les diffuser, en particulier lorsque la blague cible des groupes déjà marginalisés. Les résultats soulèvent des questions importantes sur les responsabilités de ceux qui créent et déploient des outils d’IA générative. À mesure que ces modèles s’entrelacent avec la vie quotidienne, il est urgent de regarder au-delà des formes de préjugés les plus sensibles sur le plan politique et d’aborder l’ensemble du spectre de la représentation. Ce n'est qu'alors que l'IA pourra vraiment refléter, et non déformer, la diversité du monde qu'elle dépeint.