首部无人驾驶伦理标准提交

核心提示: 该指南将在使用两年后重新审核,在获得更多实际操作的经验后,将有细微的调整。

德国联邦交通部长递交报告 提出出事故时人命优先于动物和财产

无人驾驶离我们又近了一步。就在技术日臻成熟的同时,一份道德指导准则也新鲜出炉,好让遇到紧急状况时电脑“司机”能有规可依。上个月,德国联邦交通部长向内阁提交了一份关于无人驾驶汽车的报告,提出人命优先于动物和财产,判断谁应该生存时不能存在歧视……这也是世界上首份国家级别的无人驾驶道德准则,它有可能就是未来相关立法的模板,由此开启了无人驾驶的新时代。

核心思想 人命优先于动物和财产

这份报告由德国交通运输与数字基础建设部下属的一个专家小组拟定,列出了汽车工业在开发任何无人驾驶系统时应当考虑的20条准则。这也使德国这个车轮子上的国家再次走在了世界前列,允许其汽车制造商保持技术领先地位的同时,也为世界其他地区树立了一个强有力的榜样参考。

该报告指出,在如今的技术水平上,完全阻止事故发生是不可能的,这就使得系统软件做出相应的决策尤为重要。报告的核心思想可以总结为:人命优先于动物和财产,所有人都是平等的,在两难中决定谁应该生存不能有歧视。

该指南将在使用两年后重新审核,在获得更多实际操作的经验后,将有细微的调整。就目前来看,这些指导方针相对全面而且合理,也为德国的汽车制造商提供了法律依据。目前,其他对无人驾驶跃跃欲试的国家多在这类立法上持观望态度,但不排除之后会效仿德国的做法。这也让第一个“吃螃蟹”的德国此举显得意义重大。

重点内容 以人为本而且人人平等

那么,这份“以人为本”的报告都考虑到了怎样的情况呢?

首先,如果不能避免事故发生,人类的安全必须优先于动物和财产。系统必须尽量避免碰撞,但当碰撞不可避免时,它应当采取对人无害的行动。为了伤害最小化,所有人都被认为是平等的。系统不能对潜在受害者的年龄、性别、种族、身体素质或其他任何方面差别对待。这也让人联想到著名的“电车困境”,对于系统软件来说,优先考虑人的相对价值是被禁止的。

该报告提到了完全自动系统的可能性,但也承认该技术目前还不具备解决两难局面的能力。随着技术的成熟,完全的自主权将成为可能。

明确责任 分清是人还是电脑驾驶

对于责任的明确,不可忽视的一点要求就是:无论何时,都应该明确到底是人还是电脑在驾驶。扫描驾驶执照可能是最基本的手段,所有驾驶车辆的人都必须通过验证,确定具有驾驶这类车辆的合法资格。车辆应当配备航空式的黑匣子,可以连续记录事件,包括任何时间内到底是“谁”在控制。当发生涉及自动驾驶车辆的事故时,应当由独立的联邦机构进行调查,以确定责任。

对于从车上收集到的个人信息,司机有保留信息的权利,第三方使用该数据必须得到车主的知情同意,并且不能造成任何损害。任何针对自动驾驶系统的恶意攻击都必须有有效的保护措施,软件应当被设计成安全级别,使得黑客不能实施恶意攻击。

报告还提出,公众必须知道自动驾驶汽车的运作原则,包括这些原则背后的基本原理。这一项应当被纳入到学校的课程中,以便人们能够理解自动驾驶汽车的运行方式和原因。

指南节选

1 意在提高安全 

部分和完全自动化的运输系统,存在的目的主要是为了提高道路使用者的安全。人们享有行动自由的同时也要对自己的行为负责任,技术的发展最终还是遵循个人自治的原则。

2 个人保护优先

无人驾驶的前提就是,承诺至少要比人类驾驶带来更少的危害,能够更大保护人类生命安全。基于这一使命,对个人的保护应该优先于所有其他功利性的考虑。

3 自由个体平衡

所有政府和政治监管决策的目的都是为了促进自由和保护个人。在一个自由的社会中,个人自由最大化的同时,也要保障其他人的自由和安全。

4 防止发生事故

无论任何情况,自动化和联网技术都应该防止出事故。但是当出现进退两难的境地时,无人驾驶车辆必须具备两害相权取其轻的决策能力,同时还要推动技术不断发展。例如将应用程序限定在可控的交通环境,向有危险的人发出信号,通过智能道路基础设施来预防危险。未来的无人驾驶技术还要不断提高道路安全,除了完善车辆自身设计和规划,还要提前预见各种潜在危险,尽可能减少对道路使用者构成危险。

5 人享有优先权

在有危险而且不可避免的情况下,应当保护人类生命享有最优先权。因此,如果人身伤害是可以预防的,那么该系统必须被设定为在冲撞中允许对动物或财产造成伤害。  

6 禁止差别对待

在不可避免发生事故的情况下,严禁根据年龄、性别、身体、心理素质等进行个人特征差别对待。同时,也禁止将受害者转移或者抵消,被卷入风险的当事人绝不能牺牲其他未被卷入人的安全。  

7 系统不断改进

无人驾驶系统被激活使用后,适用其他产品生产安全责任条例。由此可见,制造商和运营商必须关注已经交付使用的系统,并且不断优化和改进。  

8 技术透明公开

公众有权了解新技术的具体情况,无人驾驶车辆编程指导应当尽可能透明,并且允许在公共场合交流,还要由专业的独立机构进行评审。

9 适应人类习惯

无人驾驶车辆的软件和技术必须有这一设计,即不需要突然将控制权移交给司机。同时,为了实现高效、可靠和安全的人机交流,系统必须更加适应人类的交流习惯,而不是要求人类提高自己适应系统的能力。

10 学习无人驾驶

人们应该承认,无人驾驶系统是数字教育的一部分,在学习驾驶机动车时,也应该学习如何正确处理并以适当方式使用无人驾驶系统。

他国纵览  美国发布无人驾驶监管新规

9月13日,美国交通部部长公布了由交通运输部和国家公路交通与安全管理局(NHTSA)联合制定的自动驾驶系统性指南。该指南主要关注从Level 3到Level 5的自动驾驶,汽车制造商无需等待就能开始测试并部署他们自己的自动驾驶系统,另外它还精简了各大公司和组织在自动驾驶开发过程中的自我评估流程。

美国交通部长表示,此次发布的新规并非法律,采取自愿原则。自动驾驶技术还在不断发展,如果该技术在未来被证实不安全,监管机构仍将禁止无人驾驶汽车。

新闻背景  陷入两难的电车难题是什么

电车难题是伦理学最著名的实验之一。其内容大致为:想象你站在电车轨道旁,看到远处一辆失控的电车正在驶来,奔向5名并没有察觉到它的工人,即使他们发现列车也来不及离开了。当这场悲剧逐渐逼近时,你看到一条与铁轨相连的杠杆。你意识到,如果拉动杠杆,电车将转移到另一组轨道上,避开这5名毫无防备的工人。但是,这条轨道上还有1名工人,同样没有察觉到列车的到来。这时,你是否应当拉杠杆?为了挽救5名工人而导致另1人死亡?   本版编译 陈小丹

     责任编辑:mhx zx
0