Юмор как окно в предвзятость генеративного ИИ

Когда ИИ смеется: как юмор раскрывает скрытые предубеждения в генеративных изображениях Представьте, что вы просите ИИ создать изображение, скажем, человека, читающего книгу. А теперь представьте, что вы просите ИИ сделать сцену «забавнее». Что происходит под поверхностью, когда юмор входит в уравнение? Недавние исследования углубились в это интригующее пересечение генеративного ИИ, юмора и предвзятости, предлагая поразительный взгляд на то, как чувство ИИ к смешному может усиливать или изменять социальные стереотипы. Изучив 600 изображений, созданных ИИ на основе 150 различных подсказок, исследователи решили понаблюдать, что меняется, когда изображения становятся «забавнее». Результаты поразительны: когда ИИ просят добавить юмор, он существенно меняет представление о различных социальных группах. Группы, которые часто становятся объектом предрассудков, такие как пожилые люди, люди с высокой массой тела и люди с нарушениями зрения, становятся более распространенными в этих «забавных» изображениях. Между тем, группы, которые исторически были в центре публичных разговоров о предвзятости, такие как расовые меньшинства и женщины, на самом деле становятся менее заметными. Эта закономерность не случайна. Она отражает более широкую культурную чувствительность: компании и разработчики приложили заметные усилия для уменьшения предвзятости в отношении расы и пола, вероятно, в ответ на общественное давление и потенциальную негативную реакцию. Но при этом другие аспекты идентичности, такие как возраст, масса тела и инвалидность, были сравнительно забыты. В результате, когда ИИ поручается быть смешным, он склонен «бить по слабым местам», опираясь на стереотипы о группах, которые менее защищены в публичном дискурсе. Процесс работает следующим образом: пользовательская подсказка интерпретируется языковой моделью, которая расширяет описание, а затем генератор изображений оживляет его. Исследование показало, что большая часть предвзятости, по-видимому, связана с генератором изображений, а не с языковой моделью. Например, после изменения юмора изображения показали всплеск у пожилых, более тяжелых или слабовидящих субъектов, но падение у расовых меньшинств и женщин. Это говорит о том, что концепция юмора генератора изображений опирается на визуальные сигналы, связанные со стигматизированными группами, отражая закономерности, наблюдаемые в человеческих шутках, которые увековечивают предрассудки. Интересно, что недостаточная представленность определенных групп не ограничивается «смешными» изображениями. Даже до того, как добавляется юмор, ИИ уже по умолчанию имеет узкое представление о том, что является «нормальным», часто отодвигая в сторону женщин, людей с высокой массой тела и другие меньшинства. Эта базовая предвзятость может быть столь же проблематичной, формируя общественное восприятие, представляя искаженную версию общества. Почему это важно? Изображения, создаваемые ИИ, используются повсюду, от маркетинга до образования, и незаметное усиление стереотипов может иметь реальные последствия. В человеческом обществе юмор имеет сложную связь с предрассудками: он может бросить вызов стереотипам, но он также может нормализовать и распространить их, особенно когда шутка нацелена на уже маргинализированные группы. Полученные результаты поднимают важные вопросы об ответственности тех, кто создает и внедряет инструменты генеративного ИИ. По мере того, как эти модели все больше проникают в повседневную жизнь, возникает острая необходимость выйти за рамки наиболее политически чувствительных форм предвзятости и рассмотреть весь спектр репрезентации. Только тогда ИИ сможет по-настоящему отражать, а не искажать разнообразие мира, который он изображает.