自动驾驶顶层设计不能留任何容错空间

2018-03-23 10:43

全球首例自动驾驶汽车撞人致死案3月19日晚在美国亚利桑那州发生，我知道这一天一定会来。这样说，决不是自吹的事后诸葛，更不是你想的幸灾乐祸，而是从一开始我就觉得，现在发展自动驾驶的思路有哪里不对。

警方给出的事故初步调查结果是“受害人从暗处突然闯入机动车道”。问题在于，系统为什么没有“预计”到，它本应“预计”到的。

这一悲剧不是简单地在全球每天上万起车祸中增加了普通的一起。很明显地，人驾车撞人，排除主观故意的刑事因素，源于人的个体差异，诸如疏忽、错误判断、疲劳驾驶、酒驾醉驾之类；自动驾驶撞人，由于不存在个体差异和主观故意，只能归于系统性缺陷。

人类如果不是真想作死（谁知道呢），设计自动驾驶的初衷应该是也只能是本质安全，而不是什么“更加安全”。对，100％的安全，这一点，没商量。

自动驾驶的本质安全属性其实不难理解：对于人类驾驶行为，我们的安全管理目标是尽可能降低事故发生率；而对于自动驾驶行为，我们很难想象设定一个什么水平的事故率、致死率才是正当的。从终极意义上讲，作为系统行为，自动驾驶撞死一个人和撞死100个人并没有多大的不同。所以我们可以允许现阶段自动驾驶“在技术完善的路上”“磕磕绊绊”，却不能容忍它的顶层设计为自己留有任何容错空间，否则，连自动驾驶概念的提出都是毫无意义的。

说到这里，不禁想起好莱坞电影《机械公敌》（I，Robot）里“机器人三大法则”第一条“机器人不得伤害人类”，这或可作为自动驾驶绝对性安全的法理基础，甚至是哲学基础。

自动驾驶的绝对安全不仅符合逻辑自洽，更具备技术实现可能。当然，这是一个真正的系统工程，其系统性，远不止某些专家所说“车上加载多少传感器”，而是基于大数据，智能车辆、智能道路、智能交通管理直至智能社会管理一体化。所有这些都齐了，还须外加一前提，即人类全面禁驾。因为马路上只要有一辆人驾车辆，交通系统就避免不了主观故意、疏忽之类作怪，绝对安全就无法达成。

未来的交通系统，一定是无人驾驶系统，不再有针对驾驶人的交通法规，唯一人所共知的交通法规就是，人类不得驾车；甚至，拥有私家车辆都是多余。作为有希望成为最后一代驾车的人类，我们只需输入出发、目的地和到达时间，系统即基于大数据为我们就近配置合适的共享汽车，我们唯一可做的就是上车、随自动驾驶到要去的地方。依我的判断，交通将会是机器最早对人类全面代入和挤出的领域，接下来机器会在多大程度、多广幅度上接管社会尚不得而知。机械恐惧症患者，选择回到老牛破车的孔夫子时代，是不是更安全、安心呢！