来自 科技 2019-11-20 10:51 的文章
Uber自动驾驶车祸判决:人没监督车?车没监督人?
这称得上自动驾驶短暂发展史上的一个里程碑式事件,将为此后如何避免此类事故的发生提供前车之鉴。
美东时间11月19日下午1点半,美国国家运输安全委员会(NTSB)召开会议,正式公布去年三月份Uber自动驾驶车祸事件的原因。时隔将近两年,全球第一例,也是目前为止唯一一例自动驾驶车祸原因正式确认。
NTSB将车祸的主要原因归咎于Uber脆弱的安全文化,没有开启紧急制动系统,没有及时对安全员进行监督,事发时,安全员仍在看视频而非及时采取措施以扭转局面。此次车祸主要原因在人,而非技术。
因对自动驾驶的安全问题处理不当,Uber受到NTSB主席罗伯特·萨姆沃特(Robert Sumwalt)批评,“自动驾驶系统的失控和安全员的不当行为指向一个更深层次问题——Uber的无效安全文化。”
这称得上自动驾驶短暂发展史上的一个里程碑式事件,将为此后如何避免此类事故的发生提供前车之鉴。
当下,Uber正经历一个难捱的11月:先是高管离职、创始人抛售套现,紧接着首席产品官(CPO)曼尼克·古普塔离职,产品部门无人坐镇。
就在刚刚过去的10月底,Uber自动驾驶部门震荡。首席执行官达拉·科斯罗萨西在一封内部邮件中确认了新一轮裁员的消息,自动驾驶正是此次裁员的重灾区。
把命交给自动驾驶,你敢吗?
2018年3月的某个夜晚,美国亚利桑那州马里科帕县坦佩市,一辆搭载Uber自动驾驶系统的沃尔沃XC90正以每小时43英里的速度行驶。
街道灯光昏暗,一名行人正穿过马路,此刻他完全没有想过,这辆正行驶在他前方的自动驾驶汽车,将威胁到他的生命:车撞了上来,猝不及防。当时仍有一名安全员把控着这辆车,但事发那一刻,她并没有及时操纵方向盘,以挽回悲剧。
全球首例,也是目前为止唯一一例自动驾驶车祸就此发生。而自事发起,这起Uber自动驾驶车祸案就从未淡出过公众视野——直到最近,这项持续了近两年的调查终于迎来一个结果,事发的原因也被完整呈现。
本月早些时候,NTSB公布了Uber去年自动驾驶车祸事件中的一些细节,以及Uber自动驾驶以往的一些碰撞事故。
文件显示,Uber的自动驾驶汽车在发生撞击前5.6秒钟就检测到了行人,但将其错误识别为汽车,撞击前5.6秒时又将其归类为其他物体。
换句话说,自动驾驶没有识别出行人在指定人行横道以外的地方过马路的情况。
此后系统对物体的分类发生了混乱,在“汽车”和“其他”之间摇摆不定,浪费了大量宝贵时间,车辆也因此没有及时刹车。加之当时车上的安全员正在观看电视节目,并未采取措施,最终导致事故发生。
NTSB报告还指出,造成事故的关键问题是,软件无法正确预测受害者的类别和运动轨迹。如果系统可以及早正确地识别出前方物体是行人,就可能会大幅放慢速度,或者设法绕开避让。
但是Uber的汽车没有预料到这起碰撞,系统在很长一段时间里把行人当做是某个未知的物体,认为她并不妨碍行驶。
Uber自动驾驶汽车在识别到行人后1秒才开始制动,此时距离碰撞只有0.2秒,事故已经无法避免。自动驾驶系统之所以行动如此迟缓,是因为Uber认为紧急制动系统会造成车辆的不稳定,所以关闭了该系统。
通常来说,在碰撞前1.3秒,自动驾驶系统需要开启紧急制动来缓解碰撞,尽早提醒安全员进行干预并采取行动,以减少车辆不稳定行为的可能性,但为了更好控制自动驾驶系统,Uber直接放弃了使用紧急制动系统,足以看出Uber在推出自动驾驶方面的激进。
如果Uber从一开始就选择开启紧急制动系统,那么类似的悲剧则很有可能不会发生。
除此之外,NTSB报告还显示,在2016年9月至2018年3月之间,Uber的自动驾驶汽车共发生37起碰撞事故,有两起事故是车辆撞到了路边的物体,其他的事故则都是追尾和车辆刮蹭。
披露正是为了为自动驾驶系统提供安全建议,以尽可能防止悲剧重演。在文件中,NTSB表示,“事故的所有方面仍在调查中,因为NTSB确定了可能的原因,目的是发布安全建议,以防止类似的事故。”
NTSB主席罗伯特·萨姆沃特(Robert Sumwalt)在11月19日举行的撞车事故听证会上表示,计划确定在公共道路上测试自动驾驶车辆的安全风险管理要求。
萨姆沃特认为,Uber没有持续监控车辆的运营状况,首先是停用了该辆沃尔沃汽车的自动紧急制动系统。与此同时,Uber自己的系统也没有自动刹车的能力,仅仅依靠一个人类安全员来进行刹车,而Uber也没有及时监测安全员的工作状况。
就在事故发生前,安全员正在观看一个直播电视节目,并向下看。NTSB调查显示,Uber车内部署有摄像头监控司机,却没有监控到安全员的行为,以确保他们对车辆的行驶状况保持警惕。
“所有在公共道路上测试自动驾驶汽车的公司都需要研究这起案例,以防止未来发生事故。”萨姆沃特表示,这次事故的教训不仅适用于Uber的自动驾驶团队,而且不局限于“出了问题,现在已经解决了”。
“有些地方出了问题,如果不加以预防,其他地方可能也会出问题。”
激进的车,冷静的车
这起全球第一例自动驾驶汽车致人死亡的事故,引发了人们对新兴自动驾驶汽车行业的重大安全担忧,此后,在推进商用的过程当中,自动驾驶企业开始变得冷静谨慎。
首当其冲的,则是Uber自身。
事发后,Uber随即聘请律师事务所LeClairRyan编写报告,重点关注其自动驾驶团队(ATG)的安全文化和安全实践。
LeClairRyan在报告中提出的建议之一是成立独立的外部审查委员会,负责审查Uber的安全政策、流程和程序。在该报告发表大约一年后,Uber宣布成立自动驾驶安全责任委员会(SARA),负责审查ATG的决策,并为其提供建议。
SARA已经举行第一次会议,并决定每季度召开一次会议。该委员会还将关注潜在风险,调查如何提高公众对自动驾驶汽车的理解。最后告知ATG参与自动驾驶安全问题的行业对话,提升对无人驾驶的运营和责任意识。
事故发生后,Uber暂停了所有测试,直到2018年12月才恢复宾夕法尼亚州的测试,升级了软件,并实施了新的重大限制和保障措施。
Uber发言人表示,该公司对导致赫兹伯格死亡的车祸感到遗憾,并指出其已经“采取了关键的程序改进,以优先考虑安全问题”,包括启动刹车系统、更好地培训人类备用司机、增加一名备用司机,以及聘请一名安全主管。
Uber车祸事发,在人们对自动驾驶技术充满“不安”之时,谷歌旗下自动驾驶部门Waymo公司CEO约翰·克拉夫茨克(John Krafcik)却表示,如果遇到Uber类似的情况下,自家的自动驾驶技术可以避免悲剧的发生。
后来的事实却“十分打脸”。2018年三月“友商”事发之时还在喊着“可以避免悲剧发生”,对自己技术充满信心的Waymo,也在Uber事发之后放缓了部署无人驾驶车队的步伐。
2016年Waymo宣布自动驾驶汽车开始测试运营,当时的Wamyo在亚利桑那州开设了第一个测试和运营中心。但直到2018年12月,Waymo才推出了商业自动驾驶汽车服务和配套应用Waymo One。
最近,Waymo还在关闭其在德克萨斯州奥斯汀的业务,并将当地员工调往该公司位于底特律的生产中心或亚利桑那州的凤凰城,凤凰城正是Waymo此前长期开展自动驾驶测试的“大本营”。
即使Waymo想快速推动无人驾驶汽车的商业化进程,安全问题仍在每一步扩张的过程中给公司带来压力。因此,堪称全球自动驾驶的“领头羊”Waymo也不得不在推进自动驾驶商用方面变得更加谨慎。
有关“自动驾驶技术怎么做才是最安全的?”这个问题,业界依旧在讨论,由此产生的不同方法则仍在不断地摸索与试探。
美国国家公路交通安全管理局(NHTSA)曾考虑各种新方案,以测试无人驾驶汽车的安全性。自动驾驶网关一度被认为是一个安全可靠的实现方法。
这种远程控制和我们玩赛模拟器大致相似,通过互联网将正在行驶道路行驶的车辆的各项参数同步到远程的模拟器,在需要时,安全员可以通过远程平台无缝接管车辆。
但问题同样存在:自动驾驶网关如果被突破,线控底盘的参数就一并被掌控,这时道路上行驶的自动驾驶车辆就像是我们手中的遥控玩具,后果不想而知。
为了防止网络安全事件,Waymo则选择了一种切掉外部网络连接的最保守方式。在Waymo看来,通过互联网连接,自动驾驶系统就有可能受到外部攻击,造成更大的危害。
有部分行业内人士认为,只要自动驾驶的测试里程达到一个量级,并且在相应的里程范围内,自动驾驶的事故概率低于人类驾驶,那么自动驾驶就能达到真正意义上商用的临界点。
长尾效应:美好愿景与骨感现实
发展自动驾驶技术的一个理由是,自动驾驶比人类驾驶更优的安全性。当道路上跑的车辆都是自动驾驶车辆的时候,因为所有的车辆都会非常遵守规则,整个交通从而都会是安全的。
“自动驾驶的安全性测试需要行驶至少2.5亿英里。”江淮汽车智能网联汽车研究院自动驾驶设计部技术副总监吴琼引用了业界专家的数据,“高效的仿真测试是自动驾驶达到这一目标的必经之路。”
2019年7月,Waymo首席技术官德米特里·多尔戈夫在Sessions:Mobility大会上表示:“Waymo已经在现实世界中路测了1000万英里,在模拟世界中测试了100多亿公里。”
1000万英里距离2.5亿英里显然还有很远距离。
哥伦比亚大学人工智能实验室主任胡迪·利普森(Hod Lipson)在其2017年出版的《无人驾驶》一书中提出,只要无人驾驶汽车的安全记录能够超过人类驾驶员的平均水平,那它就是足以“造福人类”的。
统计数据显示,每20万英里,人类驾驶员就会出现一次非致命性碰撞,那么只要无人驾驶技术在安全性上优于人类驾驶员,就可以了。
美国车辆一年总行驶历程约为4.8万亿公里,据此可以推算出平均每200万公里会发生一例受伤事故,每1.47亿公里会发生一例死亡事故。
而现在在全球范围内,仅有Waymo一家的自动驾驶技术能够达到与人类驾驶事故率不相上下的水平。换句话说,除此之外的绝大多数自动驾驶公司,其提供的自动驾驶技术安全性目前仍低于人类。
但同样,对于自动驾驶领域来说,把自动驾驶打造成量产,卖向终端消费者,安全是绕不开的坎,是整个行业需要考虑的问题。而且,首要考虑的是,要如何证明自动驾驶比人类驾驶更安全,因为人类驾驶已经很安全了。
“我们花了大约10%的时间和精力,轻松实现了90%功能,但是接下来我们要花上90%,甚至更多的时间和精力,去实现剩下10%的功能,这是自动驾驶领域的现状。”如博世汽车苏州有限公司高级经理黄罗毅黄罗毅所说,这剩下需要用90%的精力去解决的10%的问题,正是自动驾驶的安全问题。
发展自动驾驶,除了车“到位”,路也需要适配。单车智能发展到一个瓶颈之后,不少企业着手从车路协同寻求突破。
在过去的几年里,中国与美国一直是自动驾驶发展的焦点区域。在一开始,中国也走了一条与美国相似的路线——强调单车智能,倾向于把所有的运算负荷和感知负荷都放在车上解决。
但从去年下半年,整个单车智能热度下降,行业开始慢慢意识到:让车不需要任何外力就能实现相对安全的自动驾驶,这在实践中非常难做到,车路协同或许会是另一个答案。
“路和车逐渐在往一起靠,许多企业开始建车路协同研究院,许多相关的主题会议上,参与的企业类型多了,比如路的设计单位、建设单位都开始参与进来。”四维图新车路协同研究院产品经理孙伟向CV智识描述这一年感受到的行业变化。
参与者中有华为、中兴、大唐这样的通信领域企业,有以BAT为代表的互联网科技企业,有高新兴、千万科技等智能交通玩家,有做ETC的金溢科技、万集科技等,还有自动驾驶创业企业,比如希迪智驾以及包括如四维图新在内的地图厂商。
在车路协同领域工作多年的庞宏亮表示,“无论政府的各部委来去推动建示范区也好,推动车路协同发展也好,它的落地点无外乎就是要解决我们交通的问题:一个是拥堵,一个是安全。比如在高速公路上,一般高速公路主要的事故是碰撞,二次碰撞也非常普遍,占了20~40%左右,高速管理局就可以利用车路协同技术进行提前广播,避免交通事故发生。”
自动驾驶越来越像一场马拉松,越跑到后面越困难。这条路依然漫长,但仍有人在继续走,在终点,也仍有人等着迎接这场马拉松的胜利者,毕竟,完全自动驾驶的实现意味着对人类出行安全的极大保障。
结语
为保障驾驶安全而生的自动驾驶,目前阶段反而并不安全,因为人们对自动驾驶的认知产生了偏差:他们将自动驾驶的明天,当作了自动驾驶的今天。
对于要将自己未来的出行安全交给自动驾驶的人来说,对于车祸原因的调查则比车祸本身更加重要。
毕竟,相关外媒报道称,最近Waymo的无人出租车中已经彻底没有了任何安全后备司机,一辆空车在街上自己驾驶、主动前来接送市民。
但面对安全问题,企业还是应该脚步放慢一点、对待问题仔细一点、解决问题更耐心一点,除此之外,更好的方法还有待探索。