每个法学学生在大学时代一定都参与过有关“电车难题”的讨论，那时候的你也许坚持的是 “人是目的”学说，慷慨激昂的谈论“人具有绝对价值，不可以、也绝不允许以任何形式进行比较”。又或者那时候的你是“功利主义”的绝对拥护者，一个箭步冲到讲台前反驳到“要坚持最大多数人的最大幸福，在必要时必须牺牲小部分的利益。”大家在课堂上据理力争、面红耳赤，但随着下课铃的响起，这个问题也逐渐退出我们的脑海、我们的生活。

如今，随着自动驾驶的快速发展，“电车难题”又不可避免的回到了我们的视线中，那让我们重返学生时代，一起来重温 “电车难题”，并对自动驾驶时代下的“电车难题”进行探讨。

一、传统的“电车难题”

传统的“电车难题”是由英国著名哲学家Philippa Foot在1967年首次提出的，具体情景为：你正在驾驶一辆有轨电车，电车正常行驶的轨道前方有五个人被疯子绑在轨道上，你可以通过紧急搬动道闸的方式使电车开往岔道，但你会发现岔道上同样绑着一个无辜的人。这时的你，会做出怎样的选择？

（一）关于“电车难题”的激烈讨论

直至今日，世界各国的哲学家、法学家、社会学家仍在孜孜不倦的讨论这个问题。总结下来，学者们主要分为三种流派，“功利主义”、“义务论”及“道德本性”。

1、“功利主义”流派

此种流派的学者，多以边沁的“功利主义”为理论依据，以某一行为是否带来价值、给社会带来的价值总量，来判断该行为是否具有道德。在“电车难题”的情景中，“功利主义”学者会衡量、比较“搬动道闸”与“保持前行”这两种行为分别给社会带来的总价值，确保最后的选择能够实现总体利益的最大化。单纯以数量为基础进行比较的话，显然搬动道闸撞向一人是“最有价值”的选择。

但人们发现，以“功利主义”角度考虑电车难题过于片面，存有诸多问题。如仅以数量为基准进行比较，存在唯一答案。但如果考虑到双方的年龄、学历、社会贡献、健康状况等其他因素呢？显然，答案不会是唯一确定的。

下面，介绍第二种流派--“义务论”。

2、“义务论”流派

此种流派的学者，多以康德的“绝对命令”为基础，认为此种情况下不应搬动道闸，应让一切顺其自然。康德所提出的“绝对命令”包括非常著名的一段话：人是目的而非手段，任何人都不应仅仅被视作或用作达到其他目的的手段，每个人本身就是独特的目的。因此，此种流派的学者认为，在“电车难题”中，如果你选择搬动道闸，使电车改变原始轨道、驶入岔道，相当于选择了利用一人的生命去挽救五人，把岔道一人的生命作为实现他人生命的手段，完全违背了“人是目的”的原则。基于上述考虑，在此种情况下，应当不搬动道闸，使电车在原本轨道上行使，确保没有任何人的生命被作为手段。

义务论听起来似乎是最公平的一种手段，没有改变这个世界原本运行的轨道，没有以任何人作为实现其他目的的手段。但这种选择真的合理么？

3、“道德本性”流派

哈佛大学心理学家Mark Hauser认为，人类天生对于“善”、“恶”就有明确的定义，每个人都拥有“道德本性”。人们选择在“电车难题”中搬动道闸，使电车变道，实则是一个不得以的选择。人们之所以作出该选择不是为了牺牲岔道一人的生命，而是为了避免做出另一个更差的选择。

以上不同流派的观点，仿佛说明“电车难题”真的是无解难题。每个流派都有一定的理论支撑，但反向思考又或多或少存在一些问题。难道“电车难题”真的无解么？又或是，这个问题本身就不是伦理学问题，不存在伦理学意义呢？

（二）“电车难题”问题本身是否具有伦理学意义

中国社会科学院哲学研究所研究员赵汀阳老师，在《有轨电车的道德分叉：孔子如何面对电车难题？》一文中提到，人们认为伦理困局难以决断在于，人们只关注伦理规范之间的冲突，而未探究伦理规范背后是否存在道德语法（道德元规则）。所谓伦理规范指的是禁止性规定，例如禁止欺骗他人、禁止伤害他人等。但如果某人正目睹一起行凶伤人事件，他是否同样不可以用欺骗行凶者、伤害行凶者的方式，去挽救被害人生命呢？我们会发现在这种情形下，如果仍然刻板的要求目击者遵循上述道德规范，反而是有违道德的。

在“电车难题”中，伦理规范冲突指的是“不许杀人”与“救人”，如果只考虑伦理规范的冲突，而不考虑背后的道德语法，显然人们会陷入一个思想的死循环，无法得出任何答案。因此，赵汀阳老师认为对于伦理规范过于死板的理解反而会引发更多两难问题。伦理学真正追问的并不是“应该的”答案，而是去追问什么问题是对生活有意义的问题。

北京师范大学哲学与社会学学院研究人员李依贝在《思想实验方法在伦理学研究中的应用考察》中提到，电车难题作为一个思想实验方法，最早出现是为了显示功利主义所存在的弊端，让人们意识到功利主义在理论与实践之间存在的问题，从而引发人们的反思，其对于伦理问题的研究具有批判性的意义。但是，“电车难题”对于人们却没有建设性维度上的指导，从而将人们引向永无止境、非此即彼的学术争论。因此，“电车难题”未能深入到伦理学最根本的生活价值和意义问题。

二、自动驾驶下的“电车难题”

（一）一个典型的自动驾驶“电车难题”

首先，需要明确下文所讨论的“自动驾驶车辆”具有两点限制性特征：（1）仅为弱智能时代的智能产物，其仍然属于图灵机，并没有自己的思想，只能够根据人类的指示（程序）执行任务；（2）车辆即为驾驶员。在自动驾驶车内不存在方向盘及驾驶位，车内人员仅为乘客。一旦出现危机情况，车内人员无法接手车辆，做出决策。

明确本文所论述的“自动驾驶车辆”特征后，我们来设想以下情景：在未来的某一天，你乘坐一辆自动驾驶小轿车在城市道路行驶。转弯处，前方突然迎来一辆逆行的大货车，此时如果车辆紧急向左转，则会撞上正常行驶的对向小轿车，向右转则会撞向路边行人，继续直行则会毫无疑问地撞上大货车。也就是说，无论做出何种选择，都会造成人员受伤。如果是人类驾驶普通车辆遇到上述情景时，无论人类驾驶员做出何种选择，该选择是否合理，都不会遭受过多的社会舆论压力，因为人们理解，科学实验也实际证明了，人类在遇到突发事件时，大脑需要一定的接收-反应时间。因此，在紧急状况下人类难以做出完全理智、同时兼具法律与道德性的选择。但是，自动驾驶车辆遇到上述情形时，情况就完全不同了，自动驾驶车辆的每一个决定，每一个细微的行为，都会引发整个社会的关注与讨论。

（二）自动驾驶“电车难题”与传统“电车难题”的区别

上述讨论也反映出，自动驾驶下的“电车难题”与传统的“电车难题”具有一定的区别，主要在于以下两点：第一，传统的“电车难题”是一个固定的情景，人们只需要分析已知的情形，做出自己的判断。而自动驾驶下的“电车难题”具有开放性，没有一个固定的情景。研究人员需要首先预测可能发生的风险，再针对不同的风险情景进行相应讨论；第二，传统的“电车难题”真正发生时，自然人将在紧急情况下做出瞬间反应，并没有时间在法律与道德之间进行准确衡量。而当自动驾驶车辆遇到“电车难题”时，其反应是依据车内编程而做出的，而该编程是由政府、伦理学家、法律人士、科研人员等多方主体事先经过大量设想、论证、分析、衡量，在法律及道德框架内所做出的，应当具有绝对的理性。

因此，尽管学者们对于传统“电车难题”的讨论价值存在分歧，但却一致的认为自动驾驶伦理问题具有讨论的必要性及紧迫性。一方面，正如同加州理工大学伦理学主任 Patrick Lin 所说的，自动驾驶车辆将是第一个大规模融入社会的人工智能技术，将会为其他人工智能技能的发展与应用定下基调。因此，讨论自动驾驶车辆的伦理问题会对整个人工智能行业提供一定的指导与帮助。另一方面，有的学者认为，我们负有控制交通状况的重要责任，如果不对自动驾驶汽车进行编程以应对潜在发生的危险情况，就相当于故意逃避了这一重大责任。这对于社会、公众生命安全都是极不负责的，所以讨论自动驾驶伦理问题具有必要性。

在确定讨论自动驾驶伦理问题具有必要性后，我们需要考虑的是，什么是正确的道德算法。

（三）什么是正确的道德算法

回到上述的假定情景，你作为乘坐自动驾驶车辆的乘客，希望自动驾驶车辆做出什么选择呢？如果撞向迎面而来的大货车，根据日常经验，你将是受伤严重的一方；如果改变行驶方向，是选择撞向左侧小客车，还是右侧没有任何保护措施的行人呢？如果你的身份不是小客车车主，而是路边行人，你会希望该自动驾驶车辆做出何种选择呢？

1、一项名为“道德机器”的测试

麻省理工学院研究人员曾在2016年发起一项名为“道德机器”的网络测试，模拟了十几种未来自动驾驶车辆可能会遇到的情景，参与测试的用户需要针对不同情境做出选择。例如，在紧急情况下优先保护老年人还是儿童，男人还是女人等。该测试共有230万人参与，分别来自233个国家。研究人员发现，受到不同国家文化、宗教以及经济发展水平的影响，不同国家的答题者在面对同一情景时会给出截然相反的答案，例如对于年轻人与老年人的选择、对于身体健康者与亚健康者的选择。但对于以下两点，所有答题者的答案趋于一致：（1）人类与动物的选择中，优先保护人类；（2）保护尽可能多的人。

研究人员发起上述网络测试的原因在于，他们认为公众的道德偏好会反映出人们希望购买采用何种算法的自动驾驶车辆、可以容忍采用何种算法的自动驾驶车辆在公共道路行驶。因此，在相关主体制定自动驾驶车辆道德算法之前，有必要了解公众的道德偏好。

但福特汽车安全全球主管Wayne Bahr曾表示，短期内，自动驾驶车辆不可能具有根据人的年龄、社会地位等因素辨别哪一方具有更高价值的能力。也就是说，以人的年龄、健康状态、社会地位等作为假设，猜测自动驾驶车辆的反映，是不切实际的猜测，属于一种过度的哲学思维。

2、自动驾驶车辆开发人员的观点

除了研究人员针对自动驾驶车辆伦理问题作出了相关研究测试外，一些自动驾驶车辆开发机构的工作人员也在某些场合表示了自己的看法。例如，Google X的创始人Sebastian Thrun曾在 2014年表示，谷歌旗下的自动驾驶汽车在紧急情况下，会选择撞击体积更小的一方。2016年，谷歌自动驾驶团队工程师Chris Urmson表示，谷歌自动驾驶车辆会优先保护行人及骑行者的安全，由于二者没有处于保护措施之下。

奔驰产品经理Christoph von Hugo曾表示奔驰将优先保护车内乘客，但随后即否认该说法，表明自动驾驶车辆没有资格去做出相关选择。奔驰将通过提高自动驾驶车辆风险防范措施，进而避免上述两难情况的发生。

斯坦福法学院 Bryan Casey 则认为，对于自动驾驶车辆制造厂商而言，电车难题没有过于重要，相比起判断道德的对与错，什么情况下需要承担法律责任才是自动驾驶厂商所关心的。美国国家运输安全委员会（NTSB）主席也曾表示，应尽快制定联邦法规，以规范自动驾驶车辆应当遵守的基本道德原则。

3、德国自动驾驶指导原则

2017年6月，所属德国交通部的伦理委员发布全世界范围内的首份自动驾驶指导原则，规定了自动驾车辆车需要遵守的20条伦理规则，其中与本文上述讨论相关的有以下三条：

1、发生不可避免的交通事故时，不得依据相关人员的年龄、性别、健康状况等因素做出区别对待，人的价值不得进行量化比较。

2、相较于财物及动物的安全，在危险情况下，应优先保护人类的生命安全。

3、在面对复杂的“两难困境”时，应根据实际情况做出选择，该选择是无法提前设定为标准化程序代码的。在研发、设计自动驾驶车辆时，就应当通过技术手段，如设置危险预防措施等，提前避免两难困境的实际发生。

需要注意的是，德国自动驾驶指导原则所称的“自动驾驶车辆”与本文所研究的“自动驾驶车辆”自动化等级有所不同。该指导原则中，“自动驾驶车辆”包含L3-L5级别的自动驾驶车辆,人类面对L3、L4等级的自动驾驶车辆时，仍需在特殊情况下对车辆进行一定控制、决策，如果发生“两难困境”，做出选择的应当是人类驾驶员。L5自动驾驶车辆类似于本文所研究的“自动驾驶车辆”，在车辆中没有驾驶位，车内人员仅为乘客，发生“两难困境”时，由车辆根据程序做出决策。

尽管德国自动驾驶指导原则在一定程度上为各国立法提供了指导，例如明确自动驾驶车辆不得做出歧视性选择、人类生命优先财物、动物生命，但其并未正面回应自动驾驶车辆道德算法等问题。因此，有的学者指出该指导原则在两难困境上采取一种推卸责任的做法。各国仍然需要进一步研究、探讨自动驾驶车辆两难问题，并尽早制定相关法律法规，从而推动自动驾驶车辆进入市场。

三、结语

传统“电车难题”的意义更多的是作为一个伦理学试验方法，以批判的角度揭示功利主义的不足，其是否具有伦理学的讨论意义则见仁见智。但自动驾驶时代的“电车难题”却是在未来生活中极有可能发生的问题。

各国技术人员、研究人员都曾表示虽然相比于人类驾驶，自动驾驶车辆能在很大程度上减少交通事故的发生率以及伤亡率，但是由于技术原因，从物理角度来讲，自动驾驶车辆发生交通事故是不可避免的。一旦发生交通事故，无论我们作为乘客、行人或是其他交通参与人，都会受到自动驾驶车辆每一个决策、每一个行动的影响。因此，对于自动驾驶车辆伦理问题的研究是必要且紧迫的。

也许你认为真正意义上的自动驾驶车辆距离我们太遥远了，根本无法想象一辆汽车可以没有方向盘、油门以及刹车。但是，正如同几年前我们不敢相信出门购物可以不带现金、银行卡，乘坐公交车地铁可以不带公交卡一样，现在全部一项一项实现了。据统计，2018年度，百度、蔚来等8家公司共有56辆自动驾驶车辆在北京参与道路测试，总测试里程达13.99万公里；2019年度，共有13家公司名下77辆自动驾驶车辆在北京参与道路测试，测试总里程增长至88.66万公里。截至2020年6月，自动驾驶车辆在北京的道路测试路程已超过158万公里。这些数据都在告诉我们，自动驾驶时代并不遥远，它正以惊人的速度向我们走来。