我们生活在一个越来越受所谓“算法凝视”控制的世界中。随着我们为医疗保健，交通运输和安全等领域的机器提供更多决策权，计算机所看到的世界成为主导现实。例如，如果面部识别系统无法识别您的皮肤颜色，它将无法确认您的存在。如果一辆自动驾驶的汽车看不到你走过马路，它就会开过你。这就是算法中的凝视。
这种缓慢燃烧的结构变化可能难以理解。但正如社会转变所经常发生的那样，艺术家们正在迈向认识论的争论。其中最好的一个是汤姆怀特，他是新西兰惠灵顿大学计算设计讲师，他的艺术描绘了世界，不像人类看到的那样，而是像算法一样。
怀特于2017年底开始制作这类艺术作品，其中包括一系列名为“ImageNet的背叛”的版画。该名称结合了RenéMagritte着名的非管道画作和ImageNet图片数据库。这在整个行业中用于训练和测试机器视觉算法。 “这对我来说似乎是一种自然的平行，”怀特告诉The Verge。 “另外，我无法抗拒双关语。”
对于人类而言，这些图片看起来像是线条和斑点的随意排列，缺乏任何明显的直接结构。但对于经过培训以代表我们看世界的算法，他们作为特定对象跳出了页面：电风扇，缝纫机和剪草机。打印件是视错觉，但只有计算机才能看到隐藏的图像。
怀特的作品引起了机器学习界的广泛关注，本月它将在德里的Nature Morte画廊举办的第一次大型画廊展览作为印度AI艺术品展览的一部分。怀特表示，他将自己的版画设计为“通过机器的眼睛看世界”，并“让机器发出声音”。
这个“声音”实际上是怀特称之为“感知引擎”的一系列算法。他们将机器视觉算法所训练的数据 - 数千张物体图片的数据库 - 并将其提炼成抽象形状。然后将这些形状反馈到相同的算法中以查看它们是否被识别。如果没有，图像会被调整并一次又一次地发回，直到它为止。这是一个试错过程，基本上最终会对算法对世界的理解进行逆向工程。
White将这个过程与“计算ouija板”进行比较，其中神经网络“同时轻推并向目标推动绘图。”他告诉The Verge，这种方法可以让他从输出中获得控制权，尽管可能需要数天时间以这种方式创建单个图像，他承认这个过程“有点乏味”。
与一些从事机器学习的艺术家不同，怀特并没有假装他的版画是某种自主AI的产物（有时由艺术家和推动者推动的不诚实的叙事，以创造一种技术神秘主义的感觉）。相反，他在他的角色方面处于领先地位：他为他的感知引擎设置了许多起始参数，比如线条的颜色和粗细，以及输出的结果，拒绝了他在美学上并不令人满意的印刷品。虽然他正在给他的算法发声，但他也确保结果令人愉快。 “我认为我试图释放算法，以便它可以表达自己，因此人们可以与它所说的相关，”他说。
这是什么意思？嗯，和任何艺术一样，不同的人听到不同的东西。
有些人认为怀特和他的同伴所形成的图像是一个不祥的预兆，另一个迹象表明人工智能不仅变得更聪明，而且开始创造性地思考并承担为人类保留的角色。 Karthik Kalyanaraman是负责Nature Morte展览的策展团队的一半，他通过电子邮件告诉The Verge他安排了这个节目，以引起人们对人类未来面临的“不可避免”问题的关注。 “一旦我们的大部分劳动力（手工，精神，情感，艺术）被机器取代，我们还能做些什么呢？”他问道。 “我们如何定义自己？”
Kalyanaraman认为，用AI制作的艺术表明，计算机作为创造性的演员可能值得称赞。怀特和他的同行使用的机器学习类型通过筛选大量数据然后复制它找到的模式来工作。 Kalyanaraman认为这类似于人类学习艺术的过程，但围绕创造概念的“神秘主义”使我们无法看到相似之处。 “如果一台机器可以制造出令人惊讶的，风格上的新型艺术品，我认为说它不是很有创意，因为它没有意识，这是愚蠢的，”他说。
其他人用更无情的经济术语来表达问题。 Mike Pepi为当代艺术杂志楣画作，他认为推动人工智能创意本质上是对企业利益的宣传。佩皮说，尽管“乌托邦的预测”，人工智能的发展最终还是要取代人工，包括需要创造能力的白领工作。佩皮说：“如果机器智能可以征服这个独特的人类领域，那么人工智能的前进必须近在咫尺，而且利润难以想象。”
怀特说他的动机主要是解构我们所认为的机器感知。换句话说：解释算法凝视。以White的系列作品“ImageNet的背叛”为例，如果你知道你在寻找什么，你可以看到代表乐器的形状（由曲线括起来的一排直线平行线）。但它背后也有一种令人困惑的形状。怀特说这些形状是存在的，因为这些算法是使用大提琴的照片进行训练的，大提琴手拿着它们。因为该算法没有世界先验知识 - 不了解乐器是什么或音乐或表演的任何概念 - 它自然地将两者组合在一起。毕竟，这就是它被要求做的事情：了解图片中的内容。
这种错误在机器学习中很常见，它展示了许多重要的经验教训。它显示了训练数据的重要性：为AI系统提供错误的数据来学习，并且它将学习错误的东西。它还表明，无论这些系统看起来多么“聪明”，它们都具有脆弱的智慧，只能理解世界的一部分 - 甚至不完美。例如，White的Nature Morte画廊的最新版画是抽象的颜色涂片，旨在被Google的算法标记为“不适当的内容”。用于过滤人类在世界各地看到的相同算法。
不过，怀特说他并没有把他的作品视为警告。 “我只是试图按原样呈现算法，”他说。 “但我承认，有时令人担忧的是，我们所依赖的这些机器对于世界上的物体如何接地有着不同的看法。”
尽管算法凝视容易出错，但它也可以做非常有益的事情。机器视觉可以通过加速医疗诊断来安全地在道路上驾驶汽车或拯救生命，从而使世界变得更安全。但如果我们真的想要善用这项技术，我们需要更好地理解它。通过算法的眼睛看世界可能是第一步。
