人工智能会意识到自己犯错吗
人工智能会意识到自己犯错吗 六十年过去了，人工智能飞速发展，已深入我们的日常生活。某些外卖平台的智能算法不断优化，能从11万条路线中找出最优的配送方案，将过去1小时的配送时间压缩成38分钟；某些公司有了OA算法管理系统的加持，才能实时监控员工的工作状态。为什么技术越先进，我们的生活反而越不自由？
*不完善的算法会带来可怕的结果
2016年，一辆半自动特斯拉汽车引发了一起致命的交通事故；2018年，一辆优步机器人汽车在亚利桑那州的坦佩市撞死了一名行人。不久之后，一辆处于自动驾驶模式中的慧摩汽车受到了一辆人类驾驶的汽车的撞击，该事件也给研究者们出了一个难题：如何改良人工智能驾驶员的程序，才能让它们更好地同人类驾驶员平安无事地共享道路。在今天，无论是对还是错，人工智能系统都无法解释它们的决定，甚至它们的开发者也对促成系统决定的缘由一头雾水。
*算法在单词联想中也会表现出偏见
例如，如果一款人工智能程序认为“男性”与“程序员”两个词有固有的联系，那么，当它在为一个计算机编程职位检索简历的时候，就很可能会将有着一个听起来像男性的名字的简历排到面试表的顶部。另外，语音识别软件在处理女性声音和方言时效果要差得多，这就使得那些使用非标准发音方式的社会重要成员受到了排斥。
*人工智能可能永远不会完全成熟
2017年，由来自学界、民间组织和产业界的二十多位作者共同发表了一份报告，该报告列举了一系列可怕的例子：一辆被盗用的自动驾驶汽车可能会被操纵，撞到人群之中，或者被劫持用来运送爆炸物。感染了恶意软件的大脑芯片或心脏起搏器可能被用于远程暗杀，犯罪分子也可以用面部或语音模拟技术进行精准定位网络诈骗。作为当前人工智能热的主要推手，机器学习算法严重的局限性也已经逐渐显露了出来。如果这些问题没有得到及时解决，那么人工智能的另一个冬天可能就离我们不远了。
