据报道，11月1日，首届全球人工智能（AI）安全峰会在英国布莱切利庄园开幕，开幕式上，包括中国在内的与会国共同达成的《布莱切利宣言》正式发表。与会国一致认为，一些前沿人工智能技术会对人类构成潜在的灾难性风险，“为了所有人的利益，人工智能应该以安全、以人为中心，以值得信赖和负责任的方式设计、开发、部署和使用”。

应该说，在当今国际政治中，除了气候变化问题，人工智能安全问题已经成为建设人类命运共同体的第二大全球共识和第二个急需携手解决的大问题。汽车自动驾驶技术是人工智能领域最具代表性的技术之一，目前正处于高级别发展阶段。但是，高级别自动驾驶技术的安全性够不够，一直是人们心头挥之不去的一大疑问。

说到底，安全问题是一个关乎人性的问题、情感的问题和道德的问题。自动驾驶技术要像人一样感情丰富，具有高尚的道德情操，目前还无从谈起，要走的路还很长。这里，我们来看一个最新案例。

当地时间10月25日，美国通用汽车旗下Cruise自动驾驶出租车公司的无人驾驶测试运营资格，被加利福尼亚州机动车辆管理局（以下简称DMV）给暂停了。从Cruise拿到最终营运资格证到被暂扣，时间还不到3个月。

事情的原委是这样的。10月2日，旧金山市一辆人类驾驶的车辆撞倒了一名行人，处于后方的Cruise无人驾驶出租车轧过这位行人停顿了一下，随即启动“靠边停车”程序，以11公里的时速把车底下的行人拖行了6米之后才停下来。等旧金山市消防救援人员赶到现场展开施救后，Cruise才远程关闭了这辆车的运行程序，救援人员这才用液压剪救出了受到重创的行人。次日，应DMV要求，Cruise把事故视频的副本交给了DMV，但视频中并没有行人在车底被继续拖行那一段。

这起事故之后，旧金山又发生了几起Cruise无人驾驶出租车伤人的事故。继警方之后，美国国家公路交通安全管理局（NHTSA）也介入了调查。10月13日，NHTSA从Cruise公司获得了10月2日那起事故的完整视频副本，随后将其分享给了DMV。此前只看到“删减版”视频的DMV感到被蒙蔽和误导，自然怒火中烧，遂以置公众安全于不顾为由，宣布暂停Cruise无人驾驶出租车的测试运营资格。DMV指出，Cruise所采取的改进措施必须达到DMV满意为止，否则不会恢复其运营资质。

Cruise在旧金山市接二连三地出事，加重了该市市民对无人驾驶出租车运营安全的担忧。有消息说，该市已有一些官员正式要求州监管机构重新举行Cruise无人驾驶出租车营运许可听证会。如此看来，对新技术一向持开放态度的加州，对于自动驾驶技术界的浮躁、草率和鲁莽收紧了宽容度。去年5月，就因为对安全员的行为监管不到位，DMV吊销了小马智行公司的自动驾驶汽车技术测试许可。

没有识别出倒下的行人、车轮轧了人不说，竟然还把卷到车底下的行人拖行了好几米而不自知，这就说明处于世界领先水平的Cruise无人驾驶技术还很不成熟，还不够“以人为中心”，还不值得信赖。所以，笔者认为，无论自动驾驶这项人工智能技术发展到什么程度，必须把识别和保护车内、车外人员作为最核心的安全指标；自动驾驶技术不能只注重减轻驾驶员的负担而轻视车外人员的保护，必须在确认车内外人员都安全的前提下再行车。这两点应该是Cruise无人驾驶出租车被DMV勒令停驶事件带给业内人士的最大启示。

被DMV叫停之后，Cruise公司的发言人不仅没有承认在视频文件上做手脚，而且认为车辆轧人拖人是“极其罕见的事件”。这些言辞表明Cruise公司对公众没有抱着诚实负责的态度，缺乏“以人为本”的观念，道德情操还不够高。通用汽车首席执行官玛丽·博拉曾说，Cruise是通用汽车“定义未来交通历史的范例”。然而，从上述事实来看，Cruise有些名不副实。不过，谈起Cruise，玛丽·博拉也曾指出，“安全始终是最重要的，这也是他们不断改进的地方”。这说明通用汽车高层知道Cruise的不足之处，但更重要的是，Cruise要从根本上树立人本主义的安全观。