两次杀人,自动驾驶技术之恶

转载 2018年04月06日 00:00:00

当 Ryan Kelley 第一次将双手举起离开 Uber 的自动驾驶方向盘时,他感觉自己提前体验到了未来世界。


640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1


来源 | CSDN(公众号ID:CSDNnews)


【编者按】近日,Uber 自动驾驶汽车致死事故成为焦点,Uber 为此全面停止了在美国与加拿大的自动驾驶车辆测试。而在3 月 23 日上午,一名驾驶人驾驶特斯拉 ModelX 型运动型多功能车(SUV),在加利福尼亚州芒廷维尤一条高速公路行驶,撞上混凝土隔离带,在医院伤重不治。最新车祸发生后,特斯拉公司把事故后果严重性归咎于高速公路上的缓冲栏在先前事故中被撞击变形却没有及时更换。

近几年,自动驾驶技术的发展势头可谓相当迅猛,但就在公众们对这项新兴技术展现出极高热情之时,近期这一系列的交通事故犹如当头一棒,让我们开始陷入沉思。


以下为正文:


2017 年 2 月的 Pittsburgh 市,Uber 在公共道路上测试配有自动驾驶技术的 SUV 车辆已有5 个月。有些车辆已经可以通过 Uber 的定点打车服务应用接待乘客了,这是历史上首次自动驾驶汽车在美国市场上获得通行权。


在 9 岁的女儿的鼓励下,Kelley 辞掉了科技服务工作,成为了一名 Uber“开发期的汽车驾驶员”——作为新生的自动驾驶车辆的后备驾驶员。自动驾驶车辆所承担的社会责任非常明确:即有朝一日通过这项技术可以防止每年数以万计的交通死亡事故。Kelley 上周在电话中说:“这是非常先进的技术,人人都想参与其中。”


可是,如今在亚利桑那州 Tempe 市内,一辆 Uber 的自动驾驶车辆撞死了一名行人。


640?wx_fmt=png

图为 3 月 18 日在亚利桑那州 Tempe 市的一辆 Uber 自动驾驶车辆拍摄的视频截图。


此次意外事件发生在 3 月 18 日晚,根据车内视频显示,在 49 岁的 Elaine Herzberg 推着自行车横穿七道宽的空旷马路时,被该车撞到,而当时车内44 岁的驾驶员  Rafaela Vasquez 正低着头且双手离开了方向盘。在撞到 Herzberg 时,车辆正以每小时约 40 英里的速度行驶。据警方报道,撞击发生时车辆并没有试图刹车的迹象。


此次车祸发生之后,Uber 自愿停止了所有测试项目,且亚利桑那州政府已经吊销了其测试许可。虽然正式调查才刚刚开始,但很明显此次撞车事件不仅仅关乎一名行人的性命。这正是自动驾驶车辆支持者和研究人员所担心的事情,也突显了这项新兴技术发展中关键的弱点。


每一次失败对机器来说都是一次进步。自动驾驶车辆研究专家认为,Uber 车辆的激光雷达应该能够在碰撞发生前看到 Herzberg,并且车辆应该做出相应的反应。

然而,此次车祸引发了另外一个恐怕任何一项调查都很难回答的问题:在 Uber 或其他公司的测试阶段,是否应该由人类作为后备驾驶员安全地驾驶半自动驾驶车辆。研究表明,大多数时候,人类很容易犯错误、分心、而且可能很容易受到安全驾驶功能的引诱。


此外,Kelley 与另一位前后备驾驶员在接受采访时表示,尽管安全驾驶及其技术并没有充分准备好,但测试工作已经迫不及待的展开了。Kelley 与一位前 Uber 的 Tempe 市驾驶员(不愿透漏姓名)说,他们的工作环境与想象的不太一样,尽管公司已经在累计里程数上达到了很高的目标,但他们还是需要长期保持警惕且没有激励措施。


Kelley 与该 Tempe 的前驾驶员都在今年早些时候因为违反安全规定而遭到了 Uber 的解雇。Kelley 说,在他操纵车辆期间,在停牌前车辆出现了滑动(北美交通法规定:所有车辆遇到停牌时必须停死,确认四周安全后才能起步继续行驶。),他因此而遭到了解雇,他对此表示质疑;Tempe 的另一位驾驶员说,他在车辆行驶期间使用了手机,从而被解雇。


这位前驾驶员说,自 2016 年 Uber 推出自动驾驶项目以来,他一直在为 Uber 工作,并为自己达成了“3-4 万安全自动行驶里程”而感到自豪。他说自己不后悔在那里工作。然而,Kelley 坚持认为对他的解雇是个错误的决定,并表示很伤心。


这两位前驾驶员同意,他们曾经所处的工作条件导致了疲劳和危险的诱因,可能正是因为这些因素才让 Vasquez 的眼睛离开了道路,且双手离开了方向盘。谈及此次撞击事件时,Kelley 说:“我们已经预料到了这种事情的发生。”


“这是她的工作”


尽管在亚利桑那州被吊销执照,但是 Uber 依然在 Pittsburgh、Tempe、 Phoenix、旧金山和多伦多的公共道路上,通过大约 400 名后备驾驶员和 200 辆汽车,测试其开发的无人驾驶技术。这些数字说明在过去 9 个月内,随着公司转变了测试的重点,Uber 在亚利桑那州无人监管的条件下大幅度招聘。


根据当天的情况,有些车辆仍在搭载乘客。 但根据“纽约时报”一篇基于公司泄漏的文件的报道称,Uber 已经调整了大部分自动驾驶车队的工作方针,要求驾驶员努力“累计里程数并收集数据,从而帮助系统变得更可靠”。


截止到 2017 年 9 月,该自动驾驶车队已经在其测试的城市内累计行驶超过了一百万英里。到 2017 年 12 月的时候,累积里程数达到了两百万英里,纽约时报称,“根据公司的文档,该公司以更快的速度完成了下一个一百万英里。”


根据几篇发表的报道,Uber 的自动驾驶技术在 Tempe 车祸出现之前就已经出现了问题。Buzzfeed 的 Priya Anand 曾报道,一份 Uber 内部的关于在亚利桑那州自动驾驶测试的性能报告显示,有些车辆行驶不足一英里就遇到了麻烦,不得不靠驾驶员控制方向盘并刹车。在 2017 年 3 月 5 日一周内,在没有人为干涉的情况下,车辆在 Tempe 的测试循环中平均行驶里程数仅为 0.67 英里,且平均每行驶 2 英里就会出现“突发状况”,用该公司的话说就是意外,其中包括“刹车过猛、猛然加速、或者让乘客吓一跳的其他行为。”


然而,接受 CityLab 采访的两位前驾驶员都表示,虽然没有被起诉,但是 Vasquez 似乎要为此次事故承担很多责任。仪表盘的摄像头显示,当时 Vasquez 并没有在看路,而是低下了头,她的手也离开了方向盘。可以想象,与其他很多分心的司机一样,Vasquez 当时在看手机而没有看路。


一名 Tempe 的前驾驶员说,“这是我们最重要的规定之一,座位上不能有手机。(事实上,这正是导致他自己被解雇的原因。)她的工作就是监视并确保机器继续安全驾驶。但是她没有尽职尽责。”


根据 Uber 发言人所说,安全驾驶员在上路前会接受一次“有力的”三周的培训、测试以及认证课程。在这个过程中,他们接受了相应的训练,要求随时随地将手放在方向盘附近,以便在汽车无法安全地应对危险的道路状况,或遇到“有人不遵守交规”(比如有行人横闯马路)时,迅速采取控制措施。虽然 Uber 允许驾驶员在车内持有手机,以防遇到紧急情况,但是公司绝对不允许在驾驶期间使用电子设备。公司监视驾驶员行为的主要措施包括:车内仪表盘摄像头的定点检查、自我报告和来自其他驾驶员的报告。


据 Uber 发言人称,到目前为止,大约有十几个驾驶员因为使用手机而遭到了解雇。


坐在方向盘后面的工作是麻木不仁的测试方案


开发期车辆驾驶员的工作听起来似乎很容易,毕竟,车辆可以自动完成大部分工作。但两位前驾驶员都描述了坐在方向盘后面高强度的日常工作。全职的驾驶员要求时刻在方向盘后保持警惕长达 8-10 个小时,期间只有 30 分钟的午餐时间。为了让车辆的自动驾驶技术深入掌握 Uber 指定的该部分的城市地图,驾驶员常常在工作期间被指派前往同一个“测试路线”中。


前员工表示,在机器学习驾驶期间,时刻注视道路长达几个小时是一份非常辛苦的工作。孤独与千篇一律的重复路线很难让人注意力保持集中,这比驾驶长途卡车或出租车更困难。Kelley 说:“没有人和你说话,你只能听音乐或静静地坐着。”除此之外,你还要长时间保持一个坐姿,而且车辆频繁地紧急刹车,这种车辆驾驶的日常工作对他的健康状况有害,Kelley 说。


“Uber 实际上是在要求驾驶员像机器人一样工作。机器人可以重复循环而不会觉得疲惫,但是人类做不到。”


前员工表示,在机器学习驾驶期间,时刻注视道路长达几个小时是一份非常辛苦的工作。孤独与千篇一律的重复路线很难让人注意力保持集中,这比驾驶长途卡车或出租车更困难。Kelley 说:“没有人和你说话,你只能听音乐或静静地坐着。”除此之外,你还要长时间保持一个坐姿,而且车辆频繁地紧急刹车,这种车辆驾驶的日常工作对他的健康状况有害,Kelley 说。


尽管驾驶员没有里程数上的指标要求,但 Kelley 表示,他的一些经理曾对他施压,要求他跑更长的里程数而放弃休息时间。Uber 发言人表示,公司鼓励驾驶员可以自由休息 10-15 分钟以避免疲劳,而不用承担任何后果。


前员工说,尽管如此,随着车辆技术的改进,在道路上放任思绪驰骋(或接电话)的诱惑还是非常大。这位匿名的前安全驾驶员说他曾在 Tempe 发生事故的同一条路上工作过,“有时候,一个小时或两个小时也不需要管方向盘,然后你就会觉得也许我不看路也没关系,因为如果有状况出现,车辆也可以自动处理。”


有过几次 Kelley 感觉在车里的时候并不信任自己。他说,到夜班的时候,他可以感觉到自己的注意力减弱,他有种放松自己的冲动,因为大多数时候这项自动驾驶技术都是可靠的,营造了一种虚假的安全感。


另一位驾驶员也表示同意。“Uber 实际上是在要求驾驶员像机器人一样工作。机器人可以重复循环而不会觉得疲惫。但是人类做不到。”


更重要的是,很多后备驾驶员都是单独工作的。当初 Uber 在 Pittsburgh 开始测试的时候,自动驾驶车辆都配备了两名驾驶员。第二个人坐在副驾驶的位置上,用电脑记录数据并提交给 Uber 的工程师。但在 2017 年年底,公司将许多车都减少到了“坐在驾驶员位置”上的一个人,驾驶员单独工作。


接受 CityLab 采访的两位前驾驶员都表示,去掉第二个人类驾驶员的行为过于仓促,因为这个人在保证安全方面发挥了间接的作用。Kelley 说,副驾驶不仅可以激励“坐在驾驶员位置”上的人,“还可以观察人行道,看看是否有人闯红灯。”


Uber 的发言人表示,第二名驾驶员仅限于记录笔记,减少驾驶员的做法经过了公司的深思熟虑,这是自动驾驶技术迈向更高水平过程中的必经阶段。她说:


我们之所以做了这样的决定,是因为在测试后,我们觉得我们可以在车辆返回基地后,通过查看日志非实时地完成第二个人的任务——即记录车辆周围的情况,以及驾驶员每次的介入情况。

确保车辆安全不应该是乘客席上的驾驶员的工作,这很明显是方向盘后面的驾驶员的首要责任。


Kelley 说,即便如此,副驾驶也有很多安全方面的好处,比如多一个机会保持警觉,以及发现道路危险情况的可能性更大。从他的角度看来,即便科技进步了,“车辆依然没有做好去掉第二双眼睛的准备。”


如果“切换”失败


两个前驾驶员对 Uber 的自动驾驶技术失败也表示惊讶。他们说,有可能出现了重大问题,通常车辆对于障碍物超级敏感,甚至会误以为有障碍物存在。这位不愿透露姓名的驾驶员说:“有时汽车会因为地面坑洼里冒出的蒸汽而刹车。”


自动驾驶专家也同样感到困惑。卡内基梅隆大学自动驾驶车辆研究负责人 Raj Rajkumar 在一封邮件中写道:“汽车上的激光雷达应该可以从很远的距离看到行人。”总而言之,这表明 Uber 系统的核心存在非常严重的技术问题。Uber 自动驾驶车队所使用的激光雷达的设计公司 Velodyne 告诉英国广播公司,这起事件非常的“令人困惑”。


前 Uber 开发期车辆驾驶员 Flavio Beltran 在正常照明情况下,拍摄了发生车祸的 Tempe 路段。他在 Facebook 上发布了视频,并指出:发生车祸时,Uber 镜头的高对比度似乎使得道路看起来比实际更加黑暗。其实本路段光照非常好。Rajkumar 观看了此视频后指出,发生车祸的路段情况应该可以保证自动驾驶汽车行驶。


尽管如此,据了解 Uber 的技术目前还不足以实现完全自动驾驶,事实上这也是后备驾驶员随行的原因。Uber 业务发展与战略计划负责人 Jeff Miller 于 11 月告诉欧洲汽车新闻,“我们最终的目标是在特定的城市和环境内,不需要任何人坐在驾驶座上车辆也能自动驾驶。”这项技术在业界被称之为 4 级自动驾驶。但是 Uber 目前正在测试的功能更接近于 3 级,Miller 说:“因为如果计算机陷入困境,需要有人坐在驾驶员的位置上接管驾驶。”


然而,车辆与人类之间的这种关系隐含着技术人员口中的“切换问题”,或者说驾驶责任可以在瞬间安全地从机器切换到人手中,这项设想本身就有问题。研究表明,当机器可以完成大部分工作时,人类驾驶员会迅速丧失对道路的专注。杜克大学人类与自动驾驶研究实验室的主任 Missy Cummings 告诉 Slate,“人类无法胜任看护自动化的任务。”


  • 有些学者可能会建议说,切换提出了一个 3 级自动驾驶车辆无法解决的问题,即使从纯技术的角度考虑这个问题也似乎没有很好的解决方法。麻省理工学院机械工程教授 John Leonard 去年研究了几近深不可测的人类驾驶的复杂性,他在纽约时报上说,“人类可以胜任后备驾驶的看法是一种谬论。”


  • 其他人则认为,当机器的操作滞后时,安全驾驶员在教导和支持机器人中发挥着重要的作用。但随着计算机的进步这项工作会变得越来越复杂。斯坦福大学机械工程教授 J. Christian Gerdes,自 20 世纪 90 年代以来一直在测试和研究车辆自动驾驶技术,他说,特别是在高速的情况下,“人类很难保持警觉,甚至一些肌肉记忆也习惯了车辆的操控。”随着车辆能力的提高,人类驾驶员所做的工作减少,同时他们需要更加用心地时刻观察自动驾驶的失误。


  • Gerdes 说,在某种程度上,早期的自动驾驶系统反而更安全,因为他们不够好。他回忆说,一种早期的启动巡航控制装置只能检测运动中的物体,这意味着每当前方停车时,后备驾驶员都必须注意观察。他说,“很明显这个时候我们需要(准备好)介入,因为系统频繁地出现这样的问题。”


技术本身可能有很多方法可以解决切换和介入的问题,并在 3 级系统中让人类保持警觉。Rajkumar 建议 Uber 可以安装车载摄像头,确保驾驶员时刻注意路况。Gerdes 表示,一般来说,车内的通信平台可以在需要高度警觉时帮助提醒后备驾驶员。


Rajkumar 说:多一个人也可以帮助预防 Tempe 之类的车祸,他根据速度和距离的计算说,如果后备驾驶员能在半秒前看见死者的话,可能 Herzberg 的死亡就可以被避免了。“我可以看到的问题是,没有第二个人帮忙观察。”Gerdes 指出,在测试自动驾驶车辆(在测试轨道上,而不是在公共道路上)的时候,他的测试标准安全协议要求车内始终要有第二个人。


Uber 发言人表示,公司正在探索可能的测试改良方案,但是截止到 Tempe 车祸发生前该讨论都没有进展。


Rajkumar 说,毫无疑问,Uber 和其他公司目前都面临很大的挑战性。自动驾驶车辆开发商要想最终将驾驶员从车里撤下来,都需要真实的里程数和数据。没有人坐在驾驶员的位置上,很明显车辆会更危险;另一方面,这些驾驶员毕竟是人类,他们总会分心。如果社会希望享受全自动驾驶车辆带来的安全,那么“我们唯一的选择是慢慢地稳步向前,完成过渡,直到这项技术可靠。”


在某种程度上,早期的自动驾驶系统反而更安全,因为他们不够好。


“缓慢而稳健”似乎并不符合 Uber 的一贯作风。该公司积极进取,颠覆性的风格奠定了其原本载客服务的增长,现在它在努力争取发展更高级别的自动驾驶。一路走来,Uber 经历了一系列与(但不限于)监管机构、执法机构、乘客隐私及其竞争对手的冲突。上个月,该公司刚刚经历了一场备受瞩目的知识产权盗用诉讼,Uber 向强劲的竞争对手 Alphabet 的自动驾驶技术子公司 Waymo 支付了 2.45 亿美元的赔偿。


说到此,Waymo 决定放弃开发 3 级或半自动驾驶汽车——即车辆只可以进行简单的高速路巡航等驾驶,但是依然依赖人类驾驶员观察路况并时常控制方向盘(想想:特斯拉的自动驾驶仪)。自从 11 月以来,这家公司一直在测试 4 级自动驾驶车辆,不配置驾驶员,并在至少 8 年的测试期间行驶累计里程数超过了 400 万英里,平均每英里人为的介入次数远远少于 Uber。


Uber 发言人表示,“【平均每英里人为的介入次数】不是衡量我们测试操作整体安全性的指标,且不应该这么理解。”在向 CityLab 提供的一份声明中,她补充道,


我们相信,技术有能力建立更加安全的交通运输,并且我们承认对社区安全应尽的责任。因此,当我们开发自动驾驶技术的时候,安全是我们每一步的首要关注点。本周发生的事件让我们心碎,而且我们的车辆很扎实。我们会尽所能协助调查人员。


然而,这家成立于 2011 年的全世界最大的载客公司,尽管最近市值高达 720 亿美元,却仍然没有盈利,这个事实可能可以解释为什么 Uber 在自动驾驶的开发中显得很没有耐心。仅在美国就取消了 60 万的驾驶员,这可能是该公司获得盈利的最佳途径:它可以帮助 Uber 降低成本,停止补贴这项便宜,按需乘坐的服务,尽管这项服务帮助公司建立了巨大的市场份额。


Uber 的前任 CEO,Travis Kalanick 曾经将自动驾驶车辆项目称之为公司“赖以生存的”关键。Uber 现任 CEO,Dara Khosrowshahi 也持有相同的看法。去年 11 月,该公司订购了 24,000 台沃尔沃 SUV 汽车,从而加快了自动驾驶汽车的测试,并为更广泛的载客市场做好准备。


换句话说,Uber 与许多自动驾驶车辆的主要竞争对手的区别在于:Waymo、GM 和 Ford 等公司要么是汽车制造商出售私人车辆,要么是软件公司在这项科技上投资,以帮助他们在将来可以为自己占据自动驾驶车辆的市场份额。而另一方面,Uber 需要尽快实现自动驾驶,从而大规模的增加收入。


除了阐明依赖人类后备驾驶员的巨大困难之外,Tempe 的车祸还可能表明,任何积极地将自动驾驶推向市场的公司都面临高风险。很难看出各个阶段的测试或自动驾驶所需要的人类偶尔的辅助,如何才能不易受到专家和前驾驶员所描述的弱点的影响。对于 Kelley 来说,Uber 应该付出更多努力来缓解这些弱点。


Kelley 说:“我知道里程数对股东来说很重要,但是我认为他们太过于激进,太快了。”


原文:https://www.citylab.com/transportation/2018/03/former-uber-backup-driver-we-saw-this-coming/556427

作者:Laura Bliss 

译者:弯月

责编:张伟

招聘

AI科技大本营现招聘AI记者和资深编译,有意者请将简历投至:gulei@csdn.net,期待你的加入!


如果你暂时不能加入营长的队伍,也欢迎与营长分享你的精彩文章,投稿邮箱:suiling@csdn.net


AI科技大本营读者群(计算机视觉、机器学习、深度学习、NLP、Python、AI硬件、AI+金融、AI+PM方向)正在招募中,关注AI科技大本营微信公众号,后台回复:读者群,联系营长,添加营长请备注姓名,研究方向。

640?wx_fmt=gif

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

☟☟☟点击 | 阅读原文 | 查看更多精彩内容

两次杀人,自动驾驶技术之恶

点击上方“CSDN”,选择“置顶公众号”关键时刻,第一时间送达!当 Ryan Kelley 第一次将双手举起离开 Uber 的自动驾驶方向盘时,他感觉自己提前体验到了未来世界。【编者按】近日,Uber...
  • csdnnews
  • csdnnews
  • 2018年04月06日 00:00
  • 2429

自动驾驶的核心技术之四:线控技术

线控执行 简单地说,线控执行主要包括线控制动、转向和油门。 某些高级车上,悬挂也是可以线控的。线控执行中制动是最难的部分。 线控油门相当简单,且已经大量应用,也就是电子油门,凡具备定速巡...
  • roslei
  • roslei
  • 2016年11月12日 18:04
  • 7219

杀人中的技术

  古往今来,杀手无数,杀人手段也是千奇百怪,从荆轲的直接用刀捅到《这个杀手不太冷》里面的狙击枪,甚至直接用伞碰你一下你都会挂的杀人手段,真是令人大开眼界,但是我今天要说的不是如何如何杀人,也不是怎样...
  • zhaonjtu
  • zhaonjtu
  • 2006年11月23日 16:37
  • 1590

自动驾驶的核心技术是什么?

用4级或5级来定义自动驾驶很难有一个明确的标准,自动驾驶也不应该搞得很复杂。自动驾驶实际包含三个问题:一是我在哪?二是我要去哪?三是如何去?能完整解决这三个问题就是真正的自动驾驶。所以特斯拉升级后的8...
  • roslei
  • roslei
  • 2016年11月12日 17:57
  • 5314

人工智能之自动驾驶系列(一):概要

人工智能之自动驾驶系列(一):概要 版权声明:本文系个人经多处资料学习、吸收、整理而得,如需装载,请注明出处:作者名+链接。文中若有笔误或不正确的地方,烦请包涵并指出,谢谢。 内容...
  • wangdaiyin
  • wangdaiyin
  • 2017年08月19日 10:15
  • 3974

深入浅出自动驾驶(一)-图像识别

这是自动驾驶的系列文章。自动驾驶的第一步是什么呢?当然,是识别当前环境,具体来说就是识别自己的正确道路-车道线,入下图所示 1 转为灰度图 彩色的图是没法识别出车道线的,所以我们需要把他转化为...
  • jjddss
  • jjddss
  • 2017年06月08日 14:44
  • 751

自动驾驶核心技术之三:环境感知

自动驾驶四大核心技术,分别是环境感知、精确定位、路径规划、线控执行。 环境感知是其中被研究最多的部分,不过基于视觉的环境感知是无法满足无人驾驶要求的。 环境感知主要包括三个方面,路面、静态物体...
  • roslei
  • roslei
  • 2016年11月12日 18:02
  • 5648

深度学习在自动驾驶中的应用

intro Implementation Data for Training Network Simulation Test ResourceintroNvidia在做自动驾驶的时候,思路和传统思路果...
  • c602273091
  • c602273091
  • 2016年12月30日 21:28
  • 2503

干货|自动驾驶 vs 机器人定位技术

点击上方“中兴开发者社区”,关注我们 每天读一篇一线开发者原创好文 金明 天津最早从事AI算法及创新工作的骨干之一 目前为机器人团队软件架构师 ▍定位问题的引入 ...
  • O4dC8OjO7ZL6
  • O4dC8OjO7ZL6
  • 2017年10月25日 00:00
  • 628

自动驾驶技术之所需技术

之前读了一些相关的博文和技术类文章,今天来做个大汇总~~ 自动驾驶涉及到的技术:从大方面来说包括硬件和软件 《一》、首先我们来说硬件,有篇论文Development of Steering C...
  • Julialove102123
  • Julialove102123
  • 2017年09月03日 11:44
  • 857
收藏助手
不良信息举报
您举报文章:两次杀人,自动驾驶技术之恶
举报原因:
原因补充:

(最多只允许输入30个字)