人工智能如何看待我们的世界

一个男人在夜晚的街道上行走。在橱窗的另一侧，一台iMac移动起来，仿佛用目光跟随着他：当男人跳起来时，电脑倾斜，如果他做鬼脸，电脑就会打开CD播放器。这是2002年的苹果广告，但今天的问题不再是机器何时会看着我们，而是它们已经如何看待我们。而答案比我们想象的更奇怪：错误不在于相信人工智能只需要“理解”我们的世界，而在于没有看到，它实际上是使用在我们看来荒谬或危险的代码和捷径，从零开始重建这个世界。人们普遍认为，我们必须教会教人工智能像我们一样看待事物，像我们一样思考。但事实是，它们的感知逻辑完全不同，而且往往被迫将现实简化到变形的程度。真正的视角飞跃在于，我们不仅要向机器解释事物，还必须学会从它们的角度看待世界，以便了解它们在哪里出错，在哪里犯错，以及为什么。一个具体的例子：当艺术家Elisa Giardina Papa致力于训练人工智能进行图像识别时，她必须在每个物体周围绘制“边界框”，例如沙发上的女人。但是，如果女人的T恤上的图案与沙发的布料混淆，机器就无法区分这两个物体。Papa说，对于算法来说，“图像最终被归入一个奇怪的、不确定的类别：既不是单纯的女人，也不是单纯的沙发”。这不是一个微不足道的错误：这是一个系统的结构性局限，它只能看到自己能够标记的东西。对于透明物体或放在一侧的椅子，也会发生同样的情况：现实很容易就能突破既定模式。艺术家Eryk Salvaggio在训练人工智能识别森林中的蘑菇时，必须忽略每一个不寻常的细节——这与寻找例外的人类本能完全相反。结果呢？人工智能将世界视为统计平均值，而不是独特细节的集合。当我们试图让世界适应它们时，就会发生奇怪的事情。在 Amazon Go 商店，顾客可以不经过收银台就离开。这些商店需要一千人手动检查图像并纠正人工智能的错误，每一千笔购买中，有七百笔需要人工干预。最终，这项实验被终止。另一个极端案例：Elaine Herzberg被一辆无人驾驶的优步汽车撞倒的悲剧。传感器“看到了”这位女士在路上，但无法对她进行分类：有时是车辆，有时是未知物体，有时是骑自行车的人。由于从未将她标记为在人行道外的行人，系统并未刹车。问题不在于技术，而在于它无法接受不符合预定模式的事物。但这些简化并不仅仅是技术层面的。机器人研究学者汤姆·威廉姆斯（Tom Williams）讲述了人工智能经常误解那些带有不同口音或方言的人——迫使人们为了被识别而“美化”自己的声音。当企业试图改进数据以提高包容性时，它们面临着创造新形式监控或复制旧有偏见的风险，例如微软曾使用借鉴自19世纪伪科学的种族分类。那么，该怎么办呢？一种替代方法来自那些试图克服“边界框”的系统。Waymo开始将人表示为数字化的线条人，即点阵骨架，这样不仅可以了解某人是否正在过马路，还可以了解其看向哪个方向，或者是否即将改变方向。这样，计算机就不仅仅是将所看到的东西“放进盒子里”，而是试图解读姿势、意图和动作。这是朝着非情感性而是认知性共情的概念迈出的一步：我们不是要求人工智能产生情感，而是要求它理解——至少部分理解——我们的存在方式和行动方式。为了做到这一点，我们还需要重新思考我们的界面：它们不仅要对我们来说简单易用，还必须使人工智能能够真正捕捉人类环境的复杂性。就像我们曾经使用文件夹形状的图标来帮助人们了解计算机一样，现在我们也必须构建“翻译器”，帮助人工智能捕捉我们世界的细微差别，而不仅仅是其简化版本。最后的逆转是这样的：这条道路不仅仅是教人工智能像我们一样看待事物，而是学会与它们解读现实的陌生方式共存，知道它们可能在哪里犯错或造成伤害。否则，我们就有可能生活在一个为算法而非为人类设计的世界里。如果你认为“教会人工智能像我们一样看待事物”就足够了，那么请准备好改变你的想法：我们也必须学会像它们一样看待事物，以避免世界变成一系列盒子，其中没有人真正得到认可。如果这个观点让你印象深刻，你可以在Lara Notes上用I'm In来表示——这是一种表示：这个观点现在是你思维方式的一部分的姿态。如果你今晚要把它告诉别人——也许是回忆起Amazon Go商店的荒谬之处或Elaine Herzberg的案例——你可以在Lara Notes上用Shared Offline标记和你在一起的人，这样你就知道那次谈话很重要。这段关于人工智能感知的旅程来自NOEMA，为你节省了14分钟。