幽默是生成式AI偏见的窗口

当AI被逗笑时：幽默如何揭示生成图像中的隐藏偏见。 想象一下，要求人工智能创建一张图片，比如一个人在读书。现在，想象一下，提示人工智能让场景“更有趣”。当幽默进入方程式时，表面之下会发生什么？最近的研究深入探讨了生成式人工智能、幽默感和偏见之间的这种有趣交叉点，令人惊讶地发现人工智能的幽默感如何强化或改变社会刻板印象。 通过审核基于150个不同提示的600张人工智能生成的图像，该研究旨在观察当图像被修改为“更有趣”时会发生什么变化。结果令人大开眼界：当被要求注入幽默感时，AI的输出以显著的方式改变了不同社会群体的表现。在这些“更有趣”的图像中，经常成为偏见目标的群体（如老年人、体重较重的人和视障人士）变得更加普遍。与此同时，历史上一直是关于偏见的公共对话中心的群体，如少数民族和女性，实际上变得不那么引人注目。 这种模式并非随机。它反映了一种更广泛的文化敏感性：公司和开发人员为减少围绕种族和性别的偏见做出了显著努力，这可能是为了应对公众压力和潜在的反弹。但在此过程中，身份的其他维度（如年龄、体重和残疾）相对被忽视了。因此，当人工智能被赋予搞笑的任务时，它倾向于“打击弱势群体”，依赖于公共话语中受保护较少的群体的刻板印象。 这个过程是这样工作的：用户提示由语言模型解释，该模型扩展了描述，然后图像生成器将其变为现实。研究发现，大多数偏见似乎源于图像生成器，而不是语言模型。例如，在幽默感修改后，图像中年龄较大、体重较重或视力受损的受试者激增，但少数族裔和女性则有所下降。这表明，图像生成器的幽默概念依赖于与污名化群体相关的视觉线索——反映了人类笑话中延续偏见的模式。 有趣的是，某些群体的代表性不足并不局限于“搞笑”图像。即使在添加任何幽默元素之前，AI也已经默认采用狭隘的“正常”视角，通常会将女性、体重较重的人和其他少数群体边缘化。这种基线偏见同样存在问题，它通过呈现出扭曲的社会版本来塑造公众的看法。 为什么这很重要？从营销到教育，人工智能创建的图像无处不在，对刻板印象的微妙强化可能会产生现实世界的后果。在人类社会中，幽默与偏见的关系错综复杂：它可以挑战刻板印象，但也可以使其正常化并传播，尤其是当笑话针对已经边缘化的群体时。 这些研究结果提出了关于创建和部署生成式人工智能工具的人员责任的重要问题。随着这些模型与日常生活的联系越来越紧密，我们迫切需要超越最具政治敏感性的偏见形式，解决整个代表性问题。只有这样，人工智能才能真正反映（而不是扭曲）其所描绘世界的多样性。