自动驾驶汽车如何选择不撞人？

Azim Shariff：机器具有人类没有考虑的奢侈品。随之而来的是奢侈品也是审议的责任。

Azim Shariff：所有国家都倾向于挽救年轻人而不是老年人，几乎所有国家都倾向于挽救女性而不是男性。虽然偏好都朝着一个方向发展，但各国对这些选择的强烈程度存在差异。在东方国家，例如日本，为了拯救年轻人，人们不太愿意牺牲老年人。但这种偏好在西方出现了。

Jean-FrançoisBonnefon：看宏观经济因素可能更有意思。所有国家都表现出令人不安的偏好，即拯救地位较高的人[例如，高管人数超过无家可归者]。我们发现这与一个国家的经济不平等程度密切相关。在存在更大的不平等的情况下，更倾向于牺牲无家可归者。

Azim Shariff：这是一个关键问题 - 我们应该遵循演示在这里说的内容多少？如果公众希望我们做一件事，那么汽车应该如何合乎道德地组织起来？从纯粹的人口统计角度来看，我们应该向公众提供他们想要的东西。但有些人接受过道德决策的培训，也许我们应该倾听他们的意见。我认为我们不应该仅仅默认大多数人所说的，但我认为知道公众更喜欢什么是有用的。它表明，我们将为道德准则带来什么样的阻力。

在早期的一项研究中，您发现人们认为自动驾驶汽车应该能够保护更多的人，即使这意味着牺牲了乘客。但他们还表示，他们不会购买一台按照这种方式行事的自动驾驶汽车。这告诉我们什么？

Azim Shariff：人们认识到拯救更多生命对道德负责更为重要。但人们是自私自利的，做道德的做法可能很难。当梅赛德斯 - 奔驰说如果他们只能拯救一个人时，他们会拯救司机而不是行人，公众愤慨使他们撤回了这一陈述。这表明汽车公司面临一个有趣的困境。如果你说你的车会偏爱乘客，就会引起公愤。如果你决定平等对待所有生活但危及购买汽车的人的生命，你实际上可能会受到影响，人们可能不会购买那辆汽车。从我们谈过的制造商那里，他们希望从他们手中拿出决定并且他们想要监管。

Azim Shariff：我认为这是一个好主意。政府参与的优势在于您不会将道德决策推向市场。我不相信市场能找到最符合道德的讨论。让每个制造商都制定自己的指导方针，这样消费者可以在算法之间做出选择，会非常混乱。

Azim Shariff：我认为这是可能的。人们就一般问题达成了一致意见，例如节省更多人而不是更少。但是有一些变化，例如你应该如何对待那些疯狂的人。这可能是由于这些规范在不同文化中的执行方式不一致。在日本，jaywalking不是正常的事情，但在德里或纽约，人们一直在jaywalk。这可能是一个棘手的问题，汽车可能不得不以某种方式对此作出反应。

虽然有可能实现普遍道德，但我认为没有必要。当我从加拿大把汽车带到美国时，我不得不修改前灯。硬件比使用软件更困难。使用自动驾驶汽车软件，可以将算法切换到当地习俗。我不认为有一些文化差异会是一个巨大的问题。

一位研究谷歌自驾车项目的工程师表示，你的结果并不那么重要，因为这些场景中的真正答案几乎总是“ 踩刹车 ”。道德机器的场景是否真的与现实生活相关？

Azim Shariff：这些情况非常罕见。当然，更直接相关的是汽车所做出的每一个小决定都将改变风险。如果汽车为儿童提供更多空间，那么这一决定将使驾驶员面临更高的风险。这个小小的决定可能不会以死亡告终，但我们不得不问的问题是汽车应该如何在人与人之间分配风险。这个问题要复杂得多，但也要紧迫得多。