看！AI 自拍标识也有不靠谱的一面 针对该展览举办的目的

尽管现代人工智能常常因其日益成熟的表现而受到称赞，但它与“世界末日”等的识也字眼扯上关系的时候更多，即人工智能革命将使数以百万计的看A靠谱工作实现自动化，消除现实与技巧之间的拍标障碍，并最终迫使人类走向灭绝的识也边缘。

不过，看A靠谱就目前而言，拍标大多数人工智能的识也能力有限，只能在经过专门培训的看A靠谱特定领域有用，比如下棋，拍标或是识也翻译。用一个机器人去完成其能力之外的看A靠谱任务，往往会得到滑稽可笑的拍标结果——这恰恰是使用 ImageNet Roulette（基于 ImageNet 的人物类别训练 AI 工具）的乐趣所在。

艺术家兼研究人员 Trevor Paglen 与人工智能研究人员 Kate Crawford 共同打造了“Training Human 图像识别系统史展览”，识也 ImageNet Roulette 也在展览中扮演着重要角色。针对该展览举办的目的，Trevor Paglen 解释说，该展览旨在研究人工智能当前的形式，以及它复杂的学术和商业历史，而不是对其进行评判。

另一位创办人 Kate Crawford 也曾表示：

两年前，我们开始构思这个展览的时候就想要通过计算机视觉和 AI 系统对人像的识别来展示图像识别史。我们对人工智能的炒作营销，以及未来反乌托邦机器人的故事都不感兴趣，只想切实地了解 AI。为了达到目的，我们就必须弄明白图像识别系统的运作方式，并且认真严谨地对待用于训练的图片——这是机器视觉发展的重要因素。

从某种程度上来说，这个项目意义重大，即便 ImageNet Roulette 的表现展示了 AI 滑稽的一面。例如下图：

测试人员表示自己不抽烟，但 ImageNet Roulette 却将其标记为 Pipe Smoker（吸烟者）

雷锋网注：上面二图来自 The Verge

测试人员正坐在自己的办公室内，ImageNet Roulette 却认为其位于机舱中，并将其标记为 steward，flight attendant（空乘人员）。

实际上，ImageNet Roulette 的诞生就是为了让公众更加清楚地了解关于机器学习系统；它的背后，也集成了来自各方的“力量”。

雷锋网获悉，ImageNet Roulette 使用了开源的 Caffe 深度学习框架（由加州大学伯克利分校研发），该框架针对“人员”类别中的图像和标签进行培训。当用户上传照片时，应用程序首先运行人脸检测器来定位人脸；锁定之后，就会将人脸信息发送到 Caffe 模型进行分类；然后在原图边界框显示检测到的人脸和分类器分配给图像的标签。

该项目的启动也有一部分原因是为了突出 ImageNet 将人标记为“problematic”（有问题的）和 “offensive”（冒犯的）等缺陷。Twitter上就有过这样的例子，一些上传照片的男性被随机标记为“强奸嫌疑人”。Trevor Paglen 表示，这对于该项目所强调的主题之一至关重要，即人工智能系统的不可靠性。

ImageNet 数据集中包含了许多诸如“有问题的”、“攻击性的”和“怪异的”，甚至是“厌女症”、“种族歧视”等类别，而这些说法都来自 WordNet。由于 ImageNet Roulette 的结果基于 ImageNet，这些类别也将在 ImageNet Roulette 的结果中出现。

不过，从另一方面来说，这未尝不是件好事——这能够说明，基于有问题的数据而进行训练，得到的结果极有可能也是有问题的。ImageNet Roulette 让人们直观地看到机器“犯错”，这种情况很少见，要知道，人工智能对人类对象的分类结果几乎不会对被分类的对象公开。

雷锋网小结

尽管在有些时候，ImageNet Roulette 的“犯错”看起来是一种有趣的消遣，但它传递出来的信息却让人感到些许失望。值得高兴的是，这个项目至少探索了两个至关重要的问题，即人类如何通过训练集来解释和展示信息，以及技术系统如何接收和使用信息。

雷峰网原创文章，未经授权禁止转载。详情见转载须知。

(责任编辑：焦点)