管理人工智能决策工具
迈克尔-罗斯 & 詹姆斯-泰勒
2021年11月10日
摘要：微观决策的性质要求某种程度的自动化，特别是对于实时和较高数量的决策。自动化是由算法（决定如何进行微观决策的规则、预测、约束和逻辑）实现的。而这些决策算法通常被描述为人工智能（AI）。关键问题是，人类管理者如何管理这些类型的算法驱动的系统。一个自主系统在概念上是非常容易的。想象一下，一辆没有方向盘的无人驾驶汽车。司机只是告诉汽车要去哪里，并希望得到最好的结果。但是一旦有了方向盘，你就有问题了。你必须告知司机什么时候他们可能想要干预，他们如何干预，以及当需要干预时你会给他们多少通知。你必须仔细考虑你将向司机提供的信息，以帮助他们进行适当的干预。
你的企业对人工智能的使用只会增加，而这是一件好事。数字化使企业能够在原子水平上运作，每天对一个客户、产品、供应商、资产或交易做出数百万个决定。但这些决定不能由在电子表格中工作的人类做出。
我们把这些细化的、由人工智能驱动的决策称为 "微决策"（借用泰勒和雷登的 "足够聪明的系统"）。它们需要一个完全的范式转变，从做决定到做 "关于决定的决定"。你必须通过规则、参数和算法在一个新的抽象层次上进行管理。这种转变正发生在每个行业和所有类型的决策中。在这篇文章中，我们提出了一个如何思考这些决策以及如何确定最佳管理模式的框架。
微观决策需要自动化
微观决策的性质要求某种程度的自动化，特别是对于实时和较高数量的决策。自动化是由算法（决定如何进行微观决策的规则、预测、约束和逻辑）实现的。而这些决策算法通常被描述为人工智能（AI）。关键问题是，人类管理者如何管理这些类型的算法驱动的系统？
一个自主系统在概念上是非常容易的。想象一下，一辆没有方向盘的无人驾驶汽车。司机只需告诉汽车要去哪里，并希望得到最好的结果。但是一旦有了方向盘，你就有问题了。你必须告知司机什么时候他们可能想要干预，他们如何干预，以及当需要干预时你会给他们多少通知。你必须仔细考虑你将向司机展示的信息，以帮助他们进行适当的干预。
对于任何微观决策来说也是如此。当有人类参与的时候，你需要仔细思考如何设计一个决策系统，使人类能够与机器进行有意义的互动。
我们开发的四个主要管理模式根据人类干预的水平和性质而有所不同：我们称它们为HITL、HITLFE、HOTL、HOOTL。重要的是要认识到这是一个谱系，虽然我们已经拉出了关键的管理模式，但还有基于人和机器之间的分割，以及人与系统接触的管理抽象水平的子变种。
管理选项的范围
循环中的人（HITL）：人在机器的协助下。在这种模式下，人在做决策，机器只提供决策支持，或对一些决策或部分决策进行部分自动化。这通常被称为智能放大（IA）。
收集和处理废物和回收是一项复杂的业务，从天气到当地的噪音条例，从停车场布局到门锁，从回收类型到倾倒地点，司机的可用性和卡车的能力，都在有效的操作中发挥作用。一家财富500强公司正在大力投资于使用人工智能来改善其运营。他们认识到，人工智能的价值往往来自于帮助人类更好地完成他们的工作。一个例子是在帮助调度员更有效地处理票据和路线。许多事情可能会妨碍一个顺利的服务事件，例如，需要一个特定的钥匙或代码，有可能或没有可能取货的时间窗口，宽度和长度限制，让东西被移动或打开的指示，临时施工，等等。
最近开发的一个机器人在多个系统中爬行所有的票据和请求，以确定任何可能影响某个特定站点的东西，并将其提请调度员注意。它能主动识别当前设置的路线的所有可能问题（并在白天增加、移动或删除站点时重新进行识别），并能在调度员努力寻找将请求添加到飞行路线的最佳方式时，被他们反应性地使用。人类调度员监测系统的工作，通过自动处理数以千计的服务票据的决定，释放出他们一天中20-25%的时间。
人工处理异常情况的循环（HITLFE）：在这种模式下，大多数决策是自动化的，人类只处理例外情况。对于例外情况，系统在做出决定之前需要人的一些判断或输入，尽管它不太可能要求人做出整个决定。人类还控制着决定哪些例外情况被标记为审查的逻辑。
一个美容品牌开发了一种机器学习（ML）算法来预测不同类型的促销活动的销售提升，以取代现有的人力驱动的方法。ML预测考虑了诸如报价、营销支持、季节性和自相残杀等因素来创建一个自动预测。对于许多促销活动，ML预测效果很好，但在最初的成功之后，很快就出现了一些极端的失败，导致了大量的销售损失，管理人员很快就失去了信心。当数据科学家审查预测结果时，他们发现ML算法在预测某些类型的促销活动时很困难。他们没有放弃这个项目，而是开发了一个HITLFE方法。关键是将机器对其预测的信心水平编码，并让人类在机器信心不足的情况下对预测进行例外审查。
循环中的人（HOTL）：在这里，机器得到了人的协助。机器做出微观决策，但人类审查决策结果，并可以为未来的决策调整规则和参数。在一个更高级的设置中，机器还推荐参数或规则的变化，然后由人类批准。
一家欧洲食品递送企业需要管理其自行车队，并使用电子表格来计划未来一小时/一天/一周所需的 "递送时段 "的数量。然后，他们部署了各种激励措施，例如，增加每次送货率，使司机的供应与预期需求相匹配。这是一个高度手动和不精确的过程，他们决定开发一个完全自动化的系统来测试他们的手动方法。结果是有趣的。有时人的表现更好，有时机器的表现更好。他们意识到，他们对问题的构思有误。真正的问题是如何让人类和机器进行合作。这导致了第二种方法，即不是由人类在司机层面进行管理，而是设计一套控制参数，让管理人员对风险、成本和服务进行权衡。这种方法承认了系统的动态性质，需要做出可能随时间变化的权衡，以及保持工作的趣味性的关键需要！
循环外的人（HOOTL）：在这种模式下，机器由人监控。机器做出每一个决定，人类只通过设置新的约束和目标进行干预。改进也是一个自动化的闭环。根据人类的反馈，调整是自动化的。
五月花号自主船正在利用雷达、GPS、人工智能驱动的相机、数十个传感器和多个边缘计算设备探索世界海洋。但它没有船员。由于人类完全置身事外，"五月花 "号必须感知其环境，预测航线，识别危险，应用碰撞规则，并遵守海洋规则。它的人工智能船长自主地完成这些工作，为实现负责该项目的人类事先设定的目标而行动。在岸上的人类只是告诉它该往哪里走。
可能出错的地方
一家美国旅游企业在谷歌上实施了一个完全自动化的关键词营销HOOTL系统。营销团队能够输入预算和目标，然后系统自动确定支出的最佳分配和数百万个关键词的竞价逻辑。该系统一开始运行良好，并带来了效率的提高和结果的改善。然而，当系统开始表现不佳时，团队无法解释原因或采取任何纠正措施。这是一个完全的黑匣子系统，基于专有的算法，但在实践中是无法管理的，于是团队又回到了原来基于规则的系统。
如果绩效提高了（哪怕是在一段时间内），管理者就会很高兴，但如果决策开始表现不佳，要解开新流程中的哪一个元素，是一项极其复杂的工作。比如说：一个算法决策可能太不透明，无法通过监管部门的审查，也无法向不高兴的客户解释。为响应算法收集的反馈而自动改变算法，可能会造成算法偏离轨道的竞赛状况。太多的决定可能被提交给人工审查，极大地限制了算法的价值。或者人类对算法的参与可能处于错误的水平，导致算法被人类用户排挤。
解决方案的一部分是为一个特定的决策挑选正确的人类参与模式。此外，每一个微观决策系统都应该被监控，无论有多少人参与。监测可以确保决策是 "好的"，或者至少适合现在的目的，同时也创造了发现问题所需的数据，并随着时间的推移系统地改善决策。衡量决策的有效性也很关键：至少应该掌握两个以决策有效性为重点的指标。没有一个现实世界的商业决策可以通过只关注一个指标而得到优化，总是有一个权衡。此外，你应该始终捕捉关于系统如何做出决策的信息，而不仅仅是实际做出的决策。这既可以有效地解释 "坏 "的决策，也可以将次优的结果与决策方式的具体细节相匹配。最后，你应该跟踪业务结果，并将其与决策的方式相匹配。
决定哪种模式适合你
重要的是要认识到，这些系统将随着时间的推移而发展，由新的技术、组织对做出更多手术决定的愿望以及管理层对自动化的更大信心所促成。你必须决定什么程度的人力管理是可能的和可取的，以及你对风险和迭代的胃口。没有正确的答案。
无论你采用哪种模式，我们认为将人工智能放在组织结构图和流程设计中是至关重要的，以确保人类管理者对其产出感到负责。对更多自主系统的需求、消费者对即时反应的需求、供应链的实时协调以及远程自动化环境，所有这些都使在你的组织内增加人工智能的使用成为不可避免的。这些系统将代表你做出越来越精细的微观决策，影响到你的客户、你的员工、你的合作伙伴和你的供应商。为了成功，你需要了解你与人工智能互动的不同方式，并为你的每个人工智能系统挑选正确的管理选项。
内容
