根据 The Intercept 审查的内部材料，Cruise 汽车也有驶入道路坑洞的危险。
在菲尼克斯、奥斯汀、休斯顿、达拉斯、迈阿密和旧金山，通用汽车自动驾驶汽车部门 Cruise 运营的数百辆所谓的自动驾驶汽车（AV）多年来一直在繁忙的城市中将乘客运送到目的地道路。Cruise 广受欢迎的机器人游乐设施通过复杂的传感器组合创建周围环境的详细图片，并使用旨在检测和避免危险的机器学习软件在道路和障碍物周围导航。
自动驾驶公司希望这些无人驾驶汽车不仅能取代 Uber，还能取代我们所知的人类驾驶。然而，底层技术仍然不成熟且容易出错，这引发了广泛的批评，认为像 Cruise 这样的公司本质上是在公共街道上进行 beta 测试。
尽管普遍持怀疑态度，但 Cruise坚称其机器人比他们想要取代的人类驾驶汽车要安全得多。在上个月的一次采访中，Cruise 首席执行官凯尔·沃格特 (Kyle Vogt) 淡化了安全担忧：“我们做的任何与人类不同的事情都会引起轰动。”
对 Cruise 汽车的担忧本月达到了顶峰。10 月 17 日，美国国家公路交通安全管理局宣布，由于对其他汽车和行人构成风险，正在对 Cruise 的近 600 辆车队进行调查。一周后，在旧金山，自 2021 年以来无人驾驶 Cruise 汽车一直在旧金山运送乘客，加州机动车辆管理局宣布暂停该公司的无人驾驶业务。DMV 表示，在发生一系列高度公开的故障和事故后，该命令的直接原因是 Cruise 隐瞒了最近发生的一起事件的录像，该事件中，其一辆车撞到了行人，将行人拖到路上 20 英尺。
在 Slack 上向员工就停职事宜发表的内部讲话中，沃格特坚持自己的观点：“安全是我们在 Cruise 所做的一切的核心。” 几天后，该公司表示将自愿暂停凤凰城和奥斯汀的完全无人驾驶游乐设施，这意味着其车队将仅在人工监督下运行：这是人工智能的有血有肉的备份。
然而，即使在最近几周的公关危机之前，之前未报道的内部材料（如聊天记录）显示 Cruise 内部已经知道两个紧迫的安全问题：无人驾驶 Cruise 汽车很难发现道路上的大洞，并且在识别儿童时遇到很大困难。他们冒着击中他们的风险的某些情况。然而，在本月受到批评之前，克鲁斯一直保持其无人驾驶出租车车队的活跃状态，并定期保证超人的安全。
南卡罗来纳大学法学教授兼工程师布莱恩特·沃克·史密斯 (Bryant Walker Smith) 表示：“在我看来，管理层授权和进行部署或无人驾驶测试，并公开表示这些系统相当安全，是非常不负责任的行为。”自动驾驶。
Cruise 发言人在一份声明中重申了该公司的立场，即自动驾驶汽车的未来将减少碰撞和道路死亡。Cruise 公关总监 Erik Moser 表示：“我们的无人驾驶操作始终高于人类基准，我们不断评估和降低新风险，以不断改进。” “我们对与儿童接触的风险容忍度最低，并以最高的安全优先权对待他们。没有任何车辆，无论是人工驾驶还是自动驾驶，碰撞风险都是零。”
“这些不是自动驾驶汽车。这些是他们公司驾驶的汽车。”
尽管自动驾驶汽车公司在硅谷享有技术乐观主义交通乌托邦的声誉——一个智能汽车的世界，永远不会酒后驾驶、疲劳驾驶或分心——但 The Intercept 审查的内部材料揭示了潜在的生命和生命之间潜在的紧张关系。 -死亡工程问题和尽快实现未来的努力。其母公司通用汽车 (General Motors) 于 2016 年以 11 亿美元收购了 Cruise，该公司在该合资企业中大量亏损，因此该公司机器人安全方案的任何挫折都可能威胁其业务。
Cruise 没有将公共事故和内部担忧视为危险信号，而是加快了其商业计划的步伐。据彭博社报道，在加利福尼亚州出现许可危机之前，该公司正在探索向 11 个新城市扩张。
“这些不是自动驾驶汽车，”史密斯说。“这些是他们公司驾驶的汽车。”
“不得对儿童给予额外的照顾”
几个月前，沃格特在谈到一名最近在旧金山被杀的4 岁女孩时哽咽。当地居民称，一名 71 岁的妇女在能见度较低的情况下右转，撞上了一辆婴儿车，导致孩子死亡。“这几乎没有成为新闻，”沃格特告诉《纽约时报》。“对不起。我变得情绪化。” 沃格特提出，自动驾驶汽车将使街道变得更安全。
与此同时，克鲁斯在幕后正在努力解决自己的安全问题，即用汽车撞到孩子。之前未报告的内部安全评估材料中提到的问题之一是，Cruise 的自动驾驶汽车在某些条件下未能有效检测儿童，以便他们能够格外小心。“巡航自动驾驶汽车可能不会对儿童进行额外的照顾，”一项内部安全评估写道。该公司表示，其机器人汽车仍然“需要能够区分儿童和成人，这样我们就可以在儿童周围表现出额外的谨慎。”
材料称，克鲁斯尤其担心其车辆可能在人行横道处或靠近可能突然驶入街道的儿童时开得太快。这些材料还称，克鲁斯缺乏以儿童为中心的场景的数据，例如儿童突然与陪伴的成人分开、跌倒、骑自行车或穿着戏服。
材料指出了模拟测试的结果，其中巡航车位于小孩附近。“根据模拟结果，我们不能排除全自动驾驶汽车可能撞到孩子的可能性，”一项评估写道。在另一次试驾中，一辆 Cruise 车辆成功检测到了一个幼儿大小的假人，但仍以 28 英里/小时的速度用后视镜撞到了它。
内部材料将机器人汽车在某些条件下无法可靠地识别儿童的原因归咎于软件和测试不足。材料称，“我们对小型 VRU 的暴露程度较低”（弱势道路使用者，指的是儿童），“因此可以评估风险的事件很少”。另一部分承认巡航车辆“缺乏高精度小型 VRU 分类器”，即能够自动检测汽车周围儿童形状的物体并进行相应操作的机器学习软件。材料称，为了弥补机器学习的缺陷，Cruise 依靠幕后的人类工作人员手动识别自动驾驶汽车遇到的儿童，而其软件无法自动识别儿童。
Cruise 在其声明中表示，“说我们的自动驾驶汽车没有检测到行人儿童或对其采取适当的警告是不准确的”——The Intercept 审查的 Cruise 内部材料和该公司本身的声明削弱了这一说法。在回应 The Intercept 的置评请求时，Cruise 继续承认，去年夏天在模拟测试中，它发现其车辆有时会暂时失去路边儿童的踪迹。声明称该问题已得到解决，并且仅在测试期间遇到，而不是在公共街道上，但克鲁斯没有透露该问题持续了多长时间。Cruise 没有具体说明它实施了哪些改变来降低风险。
尽管 Cruise 声称其汽车旨在识别儿童，并将其视为特殊危险，但发言人 Navideh Forghani 表示，该公司的驾驶软件并非未能检测到儿童，而只是未能将其归类为儿童。
最常阅读
Cruise 发言人莫泽表示，该公司的汽车将儿童视为一类特殊的行人，因为他们的行为可能难以预测。“在我们在道路上部署任何无人驾驶车辆之前，我们根据现有的行业基准在模拟和封闭环境中进行了严格的测试，”他说。“这些测试表明，我们的车辆在涉及儿童的关键避免碰撞场景方面超出了人类基准。”
“根据我们今年夏天的最新评估，”Moser 继续说道，“我们根据观察到的道路表现确定，车队行驶每 3 亿英里就有可能发生一次与儿童发生潜在碰撞的风险，此后我们对此进行了改进。没有发生与儿童发生道路碰撞的事件。”
关于游轮的安全问题，您有什么建议可以分享吗？Intercept 欢迎举报人。使用个人设备通过 Signal 联系 Sam Biddle：电话 +1 (978) 261-7389、发送电子邮件至sam.biddle@theintercept.com或通过SecureDrop联系。
根据 The Intercept 审查的安全材料，一年多来，Cruise 就知道其汽车无法检测漏洞，包括里面有工人的大型建筑坑。Cruise 内部评估称，这一缺陷对公司运营构成了重大风险。Cruise 确定，以目前相对较小的车队规模，其一辆自动驾驶汽车大约每年一次驶入一个无人占用的露天矿坑，大约每四年驶入一个有人在里面的建筑坑。如果不解决这些问题，随着更多自动驾驶汽车投放到街道上，这些比率可能会增加。
看来这种担忧并不是假设的：The Intercept 看到的从一辆 Cruise 车辆上拍摄的视频片段显示，一辆自动驾驶汽车在一个不知名的城市运行，直接驶向一个建筑坑，里面有多名工人。尽管建筑工地周围都是橙色的圆锥体，但巡航车却径直朝那里开去，然后突然停下来。虽然从视频中无法辨别汽车是进入维修站还是停在维修站边缘，但车辆似乎距离几名工人只有几英寸远，其中一名工人试图通过挥舞“慢速”标志来阻止汽车它的无人驾驶挡风玻璃。
“增强自动驾驶汽车检测施工区域周围潜在危险的能力一直是我们关注的重点领域，在过去几年中，我们进行了广泛的人工监督测试和模拟，从而不断改进，”莫泽说。“其中包括增强的锥体检测、完全避免挖掘或其他复杂操作的施工区域，以及立即启用 AV 的远程协助支持/人类观察员的监督。”
已知危险
克鲁斯在感知和驾驭外部世界方面未公开的挣扎说明了严重依赖机器学习来安全运送人类的危险。“在 Cruise，你不可能拥有一家没有人工智能的公司，”该公司的人工智能负责人在 2021 年告诉Insider。Cruise 经常在科技媒体上宣传其人工智能实力，将其描述为预防道路危险的核心。“我们采用机器学习优先的方法进行预测，”一位 Cruise 工程师在 2020 年写道。
卡内基梅隆大学工程学教授 Phil Koopman 表示，Cruise 甚至正在对其安全风险进行分类和评估，这是一个积极的信号。他强调，Cruise 内部担心的安全问题几十年来一直为自主机器人领域所知。库普曼长期从事自动驾驶汽车安全方面的工作，他指责数据驱动的机器学习文化导致科技公司只有在遇到危险之后才考虑危险，而不是之前。机器人难以检测“负面障碍物”（AV 术语中的洞）这一事实并不是什么新鲜事。
“安全只关乎糟糕的一天，而不是美好的一天，而且只需要一个糟糕的一天。”
库普曼说：“他们从第一天起就应该把这种危险列入危险清单。” “如果你只是训练它如何处理你已经看到的事情，那么有无限多的事情你不会看到，直到它发生在你的车上。因此，出于这个原因，机器学习从根本上来说不太适合安全性。”
Cruise 的安全材料给该公司提出了一个令人不安的问题：如果知道机器人汽车可能会驶入洞或儿童，是否应该上路。
“如果你看不到孩子，你就很难接受这种风险不是很高——无论你认为这种情况发生的频率有多低，”库普曼解释道。“因为历史告诉我们，人们几乎总是低估严重程度较高的风险，因为他们过于乐观。安全只关乎糟糕的一天，而不是美好的一天，而且只需要一个糟糕的一天。”
库普曼表示，答案很大程度上取决于克鲁斯采取了哪些措施（如果有的话）来降低这种风险。根据一份安全备忘录，克鲁斯开始在白天减少无人驾驶汽车的运营，以避免遇到儿童，该公司认为此举有效地减轻了整体风险，而无需解决根本的技术问题。8 月，Cruise宣布削减旧金山的日间乘车业务，但没有提及其试图降低当地儿童面临的风险。（“风险缓解措施不仅仅包括自动驾驶行为，还包括其他解决方案中的替代路线和避让区域、白天或夜间部署以及减少车队等运营措施，”Moser 说。“The Intercept 查看的材料可能无法反映自动驾驶汽车的全部范围”我们针对特定情况的评估和缓解措施。”）
像改变营业时间这样的快速解决方案提出了一个工程悖论：公司如何确定它正在避免它承认它并不总是能看到的事情？“你有点做不到，”库普曼说，“这可能是第 22 条军规，但他们是决定在旧金山部署的人。”
“取消安全驱动程序的原因是为了宣传、视觉效果和投资者信心。”
减少白天运营等预防措施只会降低 Cruise AV 与儿童发生危险遭遇的可能性，而不会消除这种可能性。库普曼认为，在美国大城市，经营一家永远不需要开车去任何可能有儿童出现的地方的出租车业务几乎是不可能的，克鲁斯在知道这一缺陷仍然存在的情况下，应该保留安全驾驶员。“取消安全驾驶员的原因是为了宣传、视觉效果和投资者信心，”他告诉 The Intercept。
库普曼还指出，解决安全问题并不总是线性进展。根据 The Intercept 审查的材料，在尝试微调其导航的过程中，Cruise 的模拟测试显示，尽管试图解决问题，但其 AV 软件错过儿童的几率有所增加。
孩子和洞这两个更大的问题并不是机器人可能危及附近人类的唯一缺陷。根据其他内部材料，该公司车队中的一些车辆突然开始在十字路口无保护地左转，而巡航汽车应该禁止这样做。这些潜在的危险操作被归咎于软件更新失败。
道路安全的未来？
自动驾驶行业对社会的技术自由主义承诺的一部分，以及它如何证明在公共道路上对其机器人进行 Beta 测试的很大一部分原因，是声称有一天，由机器人司机主导的街道将比他们的肉体更安全以前辈为基础。
克鲁斯引用了兰德公司的一项研究来证明这一点。“预计部署比人类驾驶员平均安全 10% 的自动驾驶汽车，可以在 35 年内避免美国 60 万人死亡，”安全副总裁 Louise Zhang 在公司博客文章中写道。“根据我们的首个百万英里无人驾驶里程，我们似乎有望远远超过这一预期的安全效益。”
在通用汽车公司的季度财报电话会议上（加州暂停了 Cruise 的运营许可证的同一天），首席执行官玛丽·巴拉 (Mary Barra) 告诉金融分析师，Cruise “比人类驾驶员更安全，并且正在不断改进和变得更好。”
在 2022 年的《邮轮安全报告》中，该公司概述了易犯错误的人类驾驶员与超智能机器人汽车的非常不讨人喜欢的比较。报告指出，2020 年，驾驶员分心导致了 3000 多人的交通死亡，而“Cruise AV 则不能分心”。报告称，至关重要的是，“Cruise AV 只能在其设计处理的条件下运行。”
“我认为，提出克鲁??斯的安全记录比人类驾驶员更好的论点尤其令人震惊。”
然而，当谈到殴打儿童时，内部材料表明该公司的机器甚至很难与普通人的安全性能相媲美：克鲁斯当时的目标是让其机器人以相同的速度在儿童周围安全驾驶作为一名普通的 Uber 司机——内部材料表明该公司未能实现这一目标。
“我认为，提出克鲁??斯的安全记录比人类驾驶员更好的论点尤其令人震惊，”南卡罗来纳大学法学教授史密斯说。“令人震惊的是，有一份备忘录称我们可能比普通的拼车司机撞到更多的孩子，而管理层的明显反应是，继续前进。”
在给 The Intercept 的一份声明中，Cruise 确认了其比网约车司机表现更好的目标。“Cruise 始终努力超越现有的安全基准，在与监管机构合作定义行业标准的同时，继续提高我们自己的内部标准，”Moser 表示。“我们的安全方法结合了对即将发生碰撞的情况下优于人类行为的关注，并扩展到预测和行为，以主动避免有碰撞风险的情况。”
尽管存在公共和非公共安全问题，Cruise 及其竞争对手仍努力继续前进。在加州公用事业委员会投票允许 Cruise 在 Cruise 总部所在地旧金山提供无人驾驶乘车服务之前，该市的公共安全和交通机构一直在游说，要求对自动驾驶汽车采取更慢、更谨慎的态度。该委员会不同意这些机构的担忧。“虽然我们还没有数据来根据人类驾驶员设定的标准来判断自动驾驶汽车，但我确实相信这项技术有可能提高道路安全性，”曾担任 Cruise 律师的专员约翰·雷诺兹 (John Reynolds )说道。。
史密斯表示，如果所有机器人游乐设施始终都有人类安全驾驶员陪同（加州监管机构已于 2021 年允许 Cruise 放弃这种做法），那么就不会那么令人担忧。例如，驾驶者可以进行干预，快速驾驶 Cruise AV 避开机器人未能检测到的儿童或建筑人员的路径。尽管该公司目前已将它们重新安装到位，但完全放弃人工备份对于 Cruise 的长期业务至关重要，这是其向公众宣传方向盘将成为遗物的一部分。由于方向盘还在，后面还有人在，克鲁斯很难将其技术宣传为突破性的。
“我们不是在用车载安全驾驶员进行测试，而是在没有这种级别的备份的情况下通过部署进行测试，并且有大量的公共决策和声明与此形成鲜明对比。 ，”史密斯解释道。“任何时候，当你面临比原本存在的更大的风险时，你选择不提供人类安全驾驶员，这在我看来是站不住脚的。”
（谷歌翻译：CRUISE KNEW ITS SELF-DRIVING CARS HAD PROBLEMS RECOGNIZING CHILDREN — AND KEPT THEM ON THE STREETS）
选择“Disable on www.wenxuecity.com”
选择“don't run on pages on this domain”
