当驾驶员踩刹车以免撞到行人非法越过马路时，她在做出道德决策，将风险从行人转移到车上的人。一项对来自全球230万人的调查显示，自动驾驶汽车可能很快就要自己做出这样的道德判断-但制定通用的汽车道德守则可能是一项艰巨的任务。
今天在《自然》杂志上发表的有史以来规模最大的机器伦理调查1发现，指导驾驶员做出决定的许多道德原则因国家而异。例如，在行人和乘客的某些组合将在碰撞中死亡的情况下，来自相对富裕国家，拥有强大机构的人们不太可能幸免于非法闯入交通的行人。
“考虑机器道德的人们听起来好像可以为机器人提出一套完善的规则，而我们在这里显示的数据是没有普遍的规则，” Iyad Rahwan说，他是该研究的合著者是位于剑桥的麻省理工学院。
这项名为“道德机器”的调查列出了13种不可避免的死亡案例。要求受访者在涉及多种变量的情况下选择谁做谁：年轻人或老人，富人或穷人，人数或更少。
人们很少会遇到这种严峻的道德困境，一些批评家质疑测验中提出的情景是否与围绕无人驾驶汽车的道德和实践问题相关。但是研究作者说，这些情景代表着驾驶员每天做出的微妙的道德决定。他们认为，研究结果揭示了政府和自动驾驶汽车制造商要想让汽车获得公众认可时必须考虑的文化差异。
至少有一家从事自动驾驶汽车的公司（德国汽车制造商奥迪）表示，这项调查可以帮助推动有关这些问题的重要讨论。（其他具有自动驾驶计划的公司，包括汽车制造商丰田汽车公司和科技公司Waymo和Uber，均拒绝对调查结果发表评论。）康涅狄格州纽黑文市耶鲁大学的社会科学家Nicholas Christakis对结果感到着迷。
他说：“这是一篇了不起的论文。”克里斯塔基斯说，关于伦理学是普遍的还是不同的文化之间的争论是一个古老的争论，如今，如何对自动驾驶汽车进行编程的“二十一世纪问题”使这一问题重新焕发了活力。
没走的路
包括Google的母公司Alphabet，优步（Uber）和特斯拉（Tesla）在内的一些世界上最大的科技公司，以及汽车制造商现在都有自动驾驶汽车计划。这些公司中的许多公司认为，这些车辆可以改善道路安全，减轻交通负担并提高燃油效率。社会科学家说，汽车引发了道德问题，并可能对公共安全和环境造成意想不到的后果。
2016年，Rahwan团队偶然发现了关于自动驾驶汽车的道德悖论2：在调查中，人们表示，他们希望使用自动驾驶汽车来保护行人，即使这意味着牺牲乘客，“但他们也不会购买自动驾驶汽车”。车辆编程为以这种方式运行。
拉赫万（Rahwan）好奇地发现自动驾驶汽车的前景是否会引发其他道德难题，因此召集了一支由心理学家，人类学家和经济学家组成的国际团队，以创建道德机器。在18个月内，在线测验记录了来自233个国家和地区的人们做出的4,000万个决定。
无论年龄，性别或居住国家/地区，大多数人都将人类置于宠物之上，而一群人则置于个人之上。这些回应与可能是唯一的政府有关自动驾驶汽车的指南中提出的规则相一致：德国自动驾驶和联网驾驶道德委员会的2017年报告。
但是协议到此为止。当作者分析了130个国家中至少有100名受访者的回答时，他们发现这些国家可以分为三类。其中一个地区包括北美和几个欧洲国家，而基督教在历史上一直是主要宗教。另一个国家包括日本，印度尼西亚和巴基斯坦等具有儒家或伊斯兰教传统的国家。第三类包括中美洲和南美洲，以及法国和前法国殖民地。例如，与第二组相比，第一组更倾向于牺牲老年人以挽救年轻的生命。
研究人员还确定了一个国家的社会和经济因素与其居民的平均意见之间的相关性。研究小组发现，与诸如尼日利亚或巴基斯坦等机构薄弱的国家中的受访者相比，来自芬兰和日本等具有强大政府机构的国家中的人更经常选择打击非法越过马路的人。
迫使调查参与者选择在路的一侧挽救无家可归者还是在另一侧挽救高管的场景揭示了另一个出发点：人们做出的选择通常与他们文化中的经济不平等程度相关。富人与穷人之间的差距相对较小的芬兰人表现出偏向一种偏向的偏爱。但是来自哥伦比亚这个经济差异巨大的国家的普通受访者选择杀害地位较低的人。
温哥华不列颠哥伦比亚大学的心理学家Azim Shariff认为这个结果很有趣，因为它表明这项调查确实揭示了人们的道德偏好。“您假设收入不平等程度较低的地方的政治政策支持平等主义，这表明支持这些政策的道德规范是以人们玩这些游戏的方式表达的。”
前方有坑洼？
尽管自动驾驶汽车尚未面向公众发售，但测试版本仍在美国多个城市巡游。到2021年，至少有五家制造商希望广泛使用自动驾驶汽车和卡车。
哥伦比亚南卡罗来纳大学法学教授布莱恩特·沃克·史密斯（Bryant Walker Smith）怀疑“道德机器”调查是否有实际用途。他说，这项研究是不现实的，因为在现实生活中，很少有车辆会在打击两种不同类型的人之间做出选择。沃克·史密斯说：“人们还担心自动驾驶汽车将如何应对小行星撞击。”
但是研究作者说，他们的情景代表了人类驾驶员日常做出的次要道德判断，有时甚至是致命的。远离弯弯曲曲的山路上骑自行车的人的驾驶员增加了撞上来往车辆的机会。如果道路上无人驾驶汽车的数量增加，那么他们卷入此类事故的可能性也将增加。
一些汽车公司正在倾听。位于德国因戈尔施塔特的奥迪负责自动驾驶汽车道德研究小组的负责人芭芭拉·韦格（Barbara Wege）表示，此类研究非常有价值。韦格认为，无人驾驶汽车每年造成的事故数量要比人类驾驶员少，但与机器人相关的事件可能会引起更多关注。
诸如“道德机器”之类的调查可以帮助开始就这些可能增进信任的不可避免的事故进行公开讨论。她说：“需要达成社会共识，关于我们愿意承担哪些风险。” / p>
自然562，469-470（2018）
