曾经有一个伦理难题ღღღ◈：在一条铁路线上有两条轨道ღღღ◈，一条轨道上有一群孩子ღღღ◈，另一条轨道上有1个孩子ღღღ◈，一辆火车疾驰而来ღღღ◈，这样情境下扳道工怎么办ღღღ◈，是让火车驶向一群孩子ღღღ◈，还是一个孩子？从功利主义角度看ღღღ◈，应该牺牲一个孩子ღღღ◈，挽救一群孩子ღღღ◈，但从价值角度ღღღ◈，谁又有权力剥夺一个孩子的生命ღღღ◈。

　　这是个难题ღღღ◈，但未来要面临类似的ღღღ◈，但更为复杂的问题ღღღ◈。如下图1所示ღღღ◈，一辆自动驾驶汽车急速行驶在路上ღღღ◈，面对ღღღ◈：1个人ღღღ◈、1群人与车主及其他乘客ღღღ◈；1个人与车主及其他乘客ღღღ◈；1群人与车主及其他乘客ღღღ◈。自驾车的人工智能算法应该如何编制决策？

　　自动驾驶汽车的潜能不言而喻ღღღ◈，可以提高交通效率ღღღ◈，减少污染ღღღ◈，消除90%以上的交通事故ღღღ◈。2007年自动驾驶汽车第一次进入现实城市环境进行测试ღღღ◈，至今已有十年ღღღ◈。谷歌的自动驾驶汽车已经在公路上行驶了数千公里ღღღ◈，用不了多久自动驾驶汽车就可以投入市场了ღღღ◈。虽然在现实中上述情境发生的概率很低ღღღ◈，但当有数百万自动驾驶汽车在路上行驶时ღღღ◈，这种小概率事件总是有可能发生的ღღღ◈。汽车制造商和政府管理者不得不面对这样三个不一致的目标ღღღ◈：原则一以贯之ღღღ◈，不会引起公愤ღღღ◈，不使购车者灰心ღღღ◈。因此凯发K8国际娱乐官网入口ღღღ◈，如何解决上述伦理问题成为当前亟待解决的重要议题ღღღ◈。

　　2016年ღღღ◈，来自美国的图卢兹经济学院的Jean-François Bonnefonღღღ◈、俄勒冈大学的Azim Shariff和麻省理工学院的 Iyad Rahwan在《科学》杂志上发表” The social dilemma of autonomous vehicles”一文ღღღ◈，通过在亚马逊人端运算平台进行的六个网络在线调查ღღღ◈，分析了被访者对上述问题的回答ღღღ◈。分析结果表明ღღღ◈：在道德上ღღღ◈，所有被访者都认为当可以挽救更多人的生命时ღღღ◈，自动驾驶汽车的算法应该牺牲其乘客ღღღ◈；但是一旦决策涉及被访者自身时ღღღ◈，被访者倾向于保护自己及其乘客ღღღ◈。

　　研究1ღღღ◈：面对1个乘客与10个行人的情境时ღღღ◈，约76%的人认为应该牺牲乘客而不是伤及行人（95%的置信区间为69%至82%）ღღღ◈。类似的测试如图2（A）所示ღღღ◈，途中横轴0表示尽最大努力保护乘客ღღღ◈，100表示最大限度减小路上行人伤亡ღღღ◈，结果表明多数人倾向于减少行人伤亡ღღღ◈，中位数为85ღღღ◈。

　　研究2ღღღ◈：研究者要求被访者回答愿意牺牲乘客挽救行人的数量ღღღ◈，数量从1到100ღღღ◈，结果如图2（B）所示ღღღ◈。随着挽救行人数量的增加ღღღ◈，被访者同意牺牲乘客的比例越来越高ღღღ◈，其中仅有1个行人时ღღღ◈，认可乘客牺牲的被访者比例仅为23%ღღღ◈。

　　研究3ღღღ◈：图3（A）显示了如果车中坐的是被访者自己ღღღ◈，与同事ღღღ◈，与家人三种情境下ღღღ◈，被访者认可做出牺牲的分布情况ღღღ◈。第一组有效减少牺牲结果与研究2的结果相似ღღღ◈，大多数人愿意接受这一算法开心麻花之搞基三国ღღღ◈。在可能伤亡10或20人的情况下ღღღ◈，第二组的条件改为最大限度减少行人的伤亡ღღღ◈，问被访者是否愿意买自动驾驶汽车ღღღ◈，结果表明接受的人比例大大降低ღღღ◈。第三组条件改为保护乘客ღღღ◈，愿意购买的比例有所上升ღღღ◈。也就是说ღღღ◈，虽然被访者仍然同意最大化减少乘客和行人的伤亡是最为道德的ღღღ◈，但是他们仍然偏好自我保护的利己模式ღღღ◈。

　　研究4ღღღ◈：提供了另外三种情境ღღღ◈，即（1）牺牲1个行人以挽救10个行人ღღღ◈，（2）牺牲乘客自己挽救10个行人ღღღ◈，及（3）牺牲一个行人挽救另一个行人ღღღ◈。分别从伤亡最小化ღღღ◈、设想其他人的车和设想自己的车三个角度进行选择ღღღ◈。结果如图3（B）所示ღღღ◈，第一种情况牺牲1个行人以挽救10个行人ღღღ◈，无论在哪种情况认可比例都较高ღღღ◈；第三种情况牺牲一个行人挽救另一个行人ღღღ◈，在三种角度中差异也不大开心麻花之搞基三国ღღღ◈，选择的比例都很低ღღღ◈；第二种情境差异较大凯发k8国际官网ღღღ◈，仅是道德上牺牲时ღღღ◈，被访者较为认可ღღღ◈，但涉及自己的车时ღღღ◈，被访者接受的比例就比较低了 ღღღ◈。这再一次表明ღღღ◈，被访者称颂道德功利主义凯发k8国际官网ღღღ◈，要最小化伤亡开心麻花之搞基三国凯发k8国际官网ღღღ◈，自动驾驶汽车在上路时尽量自我牺牲ღღღ◈，但事实上没人想为自己买一辆这样的车ღღღ◈。

　　显然ღღღ◈，这是典型的社会两难困境ღღღ◈，道义上希望自动驾驶汽车做出牺牲ღღღ◈，但是人们自己购买这种汽车时ღღღ◈，自己又不愿意牺牲了ღღღ◈。怎么解决呢？通常的解决办法是引入法规进行强制执行开心麻花之搞基三国ღღღ◈，以实现全局最优ღღღ◈。

　　研究5ღღღ◈：分析被访者对法律上强制执行伤亡最小化的态度ღღღ◈。图3（C）分别显示了真人驾驶和人工智能驾驶在挽救1人和10人情境下ღღღ◈，被访者对道义举措和法律举措的态度ღღღ◈。结果表明ღღღ◈，显然人们不太认可从法律上强制执行最小化伤亡的举措ღღღ◈。

　　研究6ღღღ◈：在要求最小化行人伤亡的情况下ღღღ◈，针对单独驾驶ღღღ◈、与家人一起ღღღ◈，与自己小孩一起三种情境下ღღღ◈，分析被访者对道德ღღღ◈、法规和购买的态度ღღღ◈。图3（D）表明ღღღ◈，广义道德上的牺牲方面ღღღ◈，被访者较能接受单独驾驶的情况ღღღ◈，对于有家人和孩子情况接受比例有所降低ღღღ◈。对于法律上强制执行的情况ღღღ◈，接受的比例进一步下降ღღღ◈；而在强制执行情况下的自己购买接受比例更低ღღღ◈。相反ღღღ◈，如果法律不强制执行ღღღ◈，则接受的比例较高ღღღ◈，在50%左右ღღღ◈。再次说明ღღღ◈，人们很可能反对法律上强制执行最小化伤亡的功利主义效率原则ღღღ◈。

　　作者认为凯发k8国际官网ღღღ◈，自动驾驶汽车的道德算法导致社会两难ღღღ◈，虽然人们往往同意自动驾驶汽车在决策上执行交通过程伤亡最小化的原则ღღღ◈，但这些人同时又意图自己在驾驶自动汽车时最大化保护自己ღღღ◈。显然凯发K8官网首页ღღღ◈，ღღღ◈，如果在市场上有两种自动驾驶汽车ღღღ◈，一种是自我保护的ღღღ◈，一种是最小化伤亡的ღღღ◈，则很少会有人买后面一种车ღღღ◈。

　　这一研究表明自动驾驶汽车法规可能是必需的ღღღ◈，但同时又是事与愿违的开心麻花之搞基三国ღღღ◈。一方面凯发K8国际娱乐ღღღ◈，ღღღ◈，大多数人不同意法律强制执行最小化伤亡原则ღღღ◈，另一方面ღღღ◈，更为糟糕的是ღღღ◈，这类法规可能大大推迟人们接纳自动驾驶汽车ღღღ◈，而这意味着整个社会将会因为不接纳自动驾驶汽车而造成更大交通事故死亡人数ღღღ◈。因此ღღღ◈，汽车制造商和政府都需要考虑如何解决这些问题ღღღ◈。

　　从研究者的角度说ღღღ◈，如何建构自动机器算法伦理成为今天人工智领域的重要理论挑战ღღღ◈，有待研究者做更深入的研究ღღღ◈。

　　社论译介作品ღღღ◈，欢迎个人转发朋友圈ღღღ◈，自媒体凯发k8国际官网ღღღ◈、媒体ღღღ◈、机构转载请申请授权凯发K8旗舰厅ღღღ◈，联系邮箱ღღღ◈，注明“机构名称+转载”ღღღ◈。