Tom Rubin：无人驾驶与人工智能
演讲者系斯坦福大学法学院教授
大家好，非常感谢主办方邀请我来发言。我在微软工作了15年，1998年的时候，进行了AI的研究。现在要讲的是一些关于公众部署的AI的安全的问题，主要是从公共的角度来讲。我也会深入分析一下，Uber在今年早些时候发生的无人驾驶汽车发生交通事故的问题。
无人驾驶汽车的安全问题不容忽视
我昨天过来的路上也发生了这么一件事情，有一辆特斯拉的车在凌晨3点的时候发生了一起交通事故，特斯拉车可以自动驾驶的，交警发现这辆车开得非常快，交警就把它拦停，结果那个车并没有停下来，最后发现是司机睡着了，公路巡警一直跟了他7英里，才把他拦停。加州的公路巡警也想提醒大家，最后他们把这个驾驶员拘捕了，不管这个车是人在开，还是车在自己开，人是要最终为此负责的。这也是一个最新的涉及到公众安全的例子，无人驾驶车的确会给带来一些麻烦。
亚利桑那州引领无人驾驶车革命
亚利桑那州的州长提出要创造更多的工作机会，要有一个共享机制，要让亚利桑那州能够借由新经济带来更多的机会。他的确也这样努力做了，他非常欢迎Uber的进入，给他们发了很多的牌照，也因此在亚利桑那州有了很多Uber的无人驾驶车。加利福尼亚州的法律和亚利桑那州是不一样的，Uber拒绝遵守加利福尼亚州相关的安全规定，所以它在那里不能展开实验。旧金山是加州的州府，所以他们也有很多的规定，要求Uber的自动驾驶车不能上路，然后Uber就把这些车装上卡车运到亚利桑那州，他们知道亚利桑那州的法律监管没有像加州这么严格。所以推特上就有人说，加州这个地方监管过度了。
亚利桑那州非常欢迎无人驾驶车，2015年他们就开始了相关工作，他们鼓励这些无人驾驶车，还给Uber的无人驾驶车给予了很多的支持，成立了一个无人驾驶车监管委员会，并且通过当地政府形成一些新的文件和新的政策，进一步支持无人驾驶车。2018年亚利桑那州的州长签署了一条新政令，上面对无人驾驶车如何进行测试都有严格而明确的规定。就算是测试本身，还有这个车辆的运行，在这个行政命令上都有一个明确的规定。因为他们也想能够在亚利桑那州针对无人驾驶车建立起一些最基本的规管。
亚利桑那州的无人驾驶车辆第一宗行人受害事故
现在我们还没有足够的法律来保障无人驾驶的安全和规管无人驾驶车。对于亚利桑那州的第一宗无人驾驶车辆行人受害事故，警察局长说，因为这个受害者是很快的从阴影中冲出去的，没有任何人能够避免，但那时候警察还没有得到所有的信息。过了几天之后，我们才看到了当时的录像，也暴露出了真正的问题，该行人的自行车已经被照亮了。这个无人驾驶车是激光雷达感应的，行车记录仪看到什么对这个无人驾驶车来说并不能感受到，它是通过激光雷达来反应的，从这个视频中我们也可以看到，这辆无人车上的驾驶员他本来应该在紧急情况的时候踩刹车，但是他在发生事故的时候眼睛并没有看着前面，而是盯着旁边的屏幕在看视频。
在发生这些事故之后，人们开始关注这方面的法律框架。亚利桑那州在之前组成了一个专家委员会，只是简单介绍了无人驾驶汽车。后来州长发了一封通告，说这个委员会已经履行了它的职能，但是一周之后他就撤销了Uber在当地的运营权。之后他们初步发现是在沃尔沃车辆上的绝大部分安全措施都被Uber取消了，这个激光雷达在撞击之前6秒钟就已经发现了这个行人，撞击之前3秒就决定要刹车，但是这个车并没有刹住，它识别了要刹车，但是没有进行刹车的动作。
Uber在这个事故发生之后10天之内就跟受害者的家庭达成了和解，而且它停止了在亚利桑那州的运营，而且也请了上任的全国交通委员会的主席来改进他们的安全，之后Uber就改进了他们对于安全的投入，公布了他们的报告，这个月他们也向匹兹堡市提出了申请，重新进行他们的运营。
政策制定者需要更好地了解技术的使用以及该技术对公众安全的影响
这就是亚利桑那州第一宗行人受害事故的经过。AI需要高质量的数据，需要真实世界的测试和使用，政策制定者也需要更好地了解技术的使用，然后也更好地了解它造成的对于公众安全的影响。另外AI会是迭代的，我们一定要去理解它会对公众有怎样的影响。
精彩问答：
Angel Gomez De Agreda：我认为您刚才说的问题是非常有用的，我之前也做过调查，我会发现算法说的我的意图并不是我真实的意图，你在训练算法的时候，需要巨大的数据，所以算法才能够是可靠的。除此之外还必须要复查，才能保证这个结果是你想要的。从我的观点来看，我是不同意AI算法的结果。
Roland Vogl：你觉得Uber和亚利桑那州各自的责任是多少？
Tom Rubin：Uber是一个商业公司，在一个竞争激烈的领域，对用户来说他们面对着巨大的压力，任何公司都要关心公众的安全，这也是政府所需要做的事情。所以我就想要说，亚利桑那州和加州是不同的，他们两者都有责任，但是亚利桑那州绝对不是公众立法的典范。
Tom Rubin：我有一个问题，就是关于国际协议，关于部署人工智能用于武器方面，国际的协议是什么？
Angel Gomez De Agreda：我们在上一周在日内瓦开了一个会议，就讲到有一些武器上可以使用人工智能，实际上大家还只是讨论，并没有达成一个一致的意见，我想未来前景是可以的，因为有一些比较先进的国家，他们是有能力去研发这样的一些武器，这就等于是一个优势。