El humor como ventana al sesgo de la IA generativa

Cuando la IA se ríe: cómo el humor revela sesgos ocultos en las imágenes generativas. Imagina que le pides a una IA que cree una imagen, por ejemplo, de una persona leyendo un libro. Ahora, imagina que le pides a la IA que haga la escena «más divertida». ¿Qué sucede bajo la superficie cuando el humor entra en la ecuación? Investigaciones recientes han profundizado en esta intrigante intersección entre la IA generativa, el humor y los prejuicios, y ofrecen una visión sorprendente de cómo el sentido de lo que es divertido de la IA puede reforzar o cambiar los estereotipos sociales. Mediante la auditoría de 600 imágenes generadas por IA basadas en 150 indicaciones diferentes, el estudio se propuso observar qué cambia cuando las imágenes se modifican para ser «más divertidas». Los resultados son reveladores: cuando se le pide que inyecte humor, el resultado de la IA cambia la representación de los diferentes grupos sociales de manera significativa. Los grupos que suelen ser objeto de prejuicios, como los adultos mayores, las personas con sobrepeso y las personas con discapacidad visual, se vuelven más frecuentes en estas imágenes «más divertidas». Mientras tanto, los grupos que históricamente han estado en el centro de las conversaciones públicas sobre los prejuicios, como las minorías raciales y las mujeres, se vuelven menos visibles. Este patrón no es aleatorio. Refleja una sensibilidad cultural más amplia: las empresas y los desarrolladores han hecho esfuerzos notables para reducir los prejuicios en torno a la raza y el género, probablemente en respuesta a la presión pública y a la posibilidad de sufrir una reacción negativa. Pero al hacerlo, se han descuidado comparativamente otras dimensiones de la identidad, como la edad, el peso corporal y la discapacidad. Como resultado, cuando la IA tiene la tarea de ser graciosa, tiende a «golpear hacia abajo», basándose en estereotipos sobre grupos que están menos protegidos en el discurso público. El proceso funciona de la siguiente manera: un modelo de lenguaje interpreta una indicación del usuario, amplía la descripción y, a continuación, un generador de imágenes la hace realidad. El estudio descubrió que la mayor parte del sesgo parece provenir del generador de imágenes en lugar del modelo de lenguaje. Por ejemplo, tras la modificación del humor, las imágenes mostraban un aumento en los sujetos de mayor edad, con sobrepeso o con discapacidad visual, pero una disminución en las minorías raciales y las mujeres. Esto sugiere que la concepción del humor del generador de imágenes se apoya en señales visuales vinculadas a grupos estigmatizados, reflejando patrones vistos en chistes humanos que perpetúan los prejuicios. Curiosamente, la infrarrepresentación de ciertos grupos no se limita a las imágenes «divertidas». Incluso antes de añadir el humor, la IA ya adopta por defecto una visión estrecha de lo que es «normal», a menudo marginando a las mujeres, a las personas con un peso corporal elevado y a otras minorías. Este sesgo de referencia puede ser igual de problemático, ya que moldea la percepción pública al presentar una versión sesgada de la sociedad. ¿Por qué es importante? Las imágenes que crea la IA se utilizan en todas partes, desde el marketing hasta la educación, y el refuerzo sutil de los estereotipos puede tener consecuencias en el mundo real. En la sociedad humana, el humor tiene una relación complicada con los prejuicios: puede desafiar los estereotipos, pero también puede normalizarlos y difundirlos, especialmente cuando la broma se dirige a grupos ya marginados. Los hallazgos plantean preguntas importantes sobre las responsabilidades de quienes crean y despliegan herramientas de IA generativa. A medida que estos modelos se entrelazan más con la vida cotidiana, existe una necesidad apremiante de mirar más allá de las formas de sesgo más delicadas desde el punto de vista político y abordar todo el espectro de la representación. Solo entonces la IA podrá reflejar de verdad, y no distorsionar, la diversidad del mundo que representa.