全球第一起自动驾驶杀人案
全球第一起自动驾驶杀人案 9月16日,Uber自动驾驶杀人案有了初步判决结果。检察官表示,坐在驾驶位的安全员被控过失杀人罪,但她所在的公司 Uber 在这起事件中不会面临刑事指控。这起事故反映的情况更值得我们讨论:人与机器共同犯下的错误,一定要由人来承担所有罪过吗?
🚩当“安全员”变成“背锅员”
1. 在本案中,安全员 Vasquez 并没有专注在道路上,而是时不时低头看手机。在行车记录的视频当中,事故前半秒钟她才抬起头来。
2. 但Uber 的自动驾驶技术也明显存在缺陷。它没有考虑到突然发生碰撞的可能性,因而没有设计紧急制动,而是纯依靠安全员的干预来避免碰撞。
3. 不可思议的是,Uber 还停用了车辆本身的前方碰撞预警和自动紧急制动系统,一辆本身就配备安全系统,加装众多传感器的自动驾驶系统的智能汽车,最依赖的结果还是人。
4. 从事实上看,这起事故是由安全员的疏忽与自动驾驶技术问题共同造成的。两个主体都存在现有条件下无法规避的缺陷,却承担了截然不同的惩罚,人承担了全部的刑事责任,技术无罪。
🚩技术的长期挑战
1. 高级别的自动驾驶环境中,尽管有汽车的黑匣子可以记录相关数据,但在责任的划分上也会出现困境,需要在技术层面和未来立法层面做改观和突破。
2. 不仅是法律上的界定,从技术发展的角度来看,都会是一个社会性的难题。人类社会对于新技术的一大挑战,就是技术本身还没有准备好,人却高估了技术能做的事情。
3. 在自动驾驶领域怎么判断安全员所处的位置,进而调整安全员体系;甚至在人与机器协作的领域里,怎么思考以人类视角与机器视角分配工作与责任,其实都是我们应该去细化的方向。
4. 技术的目的是服务于人,帮助人类反脆弱,解决人类之前不容易解决的问题,而不是给人类加上更复杂的枷锁,让其背负更大的责任。如果人要为技术背锅,道理上无法讲得通,任何时候,人都不应该成为技术高速发展的“牺牲品”。