NBER美国国民经济研究局-NBER-The-Allocation-of-Decision-Authority-to-Human-and-Artificial-Intelligence_11页_382kb

文档总结：决策权在人类与人工智能之间的分配

核心内容

本文探讨了决策权在人类代理人与人工智能（AI）之间的分配问题。作者认为，AI的引入不仅改变了决策的效率，也影响了人类代理人的努力程度。在某些情况下，AI可能比人类更可靠，但在其他情况下，人类的努力对于提升决策质量仍然是关键的。因此，决策权的分配需要权衡AI的可靠性与人类的努力激励。

主要观点

• AI与人类的决策权分配：决策权的分配取决于AI的可靠性（$E$）和人类代理人的目标一致性（$\alpha$ 和 $\beta$）。
• 人类努力的激励：当AI拥有决策权时，人类代理人的努力可能减少，因为他们知道AI会做出决策。这种现象被称为“fall asleep at the wheel”。
• AI的可靠性与收益：虽然AI在某些方面更高效，但其可靠性并非越高越好。当AI的可靠性提高时，人类代理人的努力可能下降，从而影响组织整体的收益。
• AI的偏差问题：AI可能存在偏差，这会影响其决策质量。如果AI的偏差较高，人类代理人可能会更积极地努力以避免AI的决策影响组织利益。
• 组织设计的影响：AI的训练和使用方式会影响其在决策中的作用。组织需要根据AI的性能和人类代理人的反应来设计合适的机制。

关键信息

1. 模型设定

• 主体：一个决策者（$P$）和一个人类代理人（$H$）。
• 项目收益：每个项目对$P$和$H$有不同的收益，分别为$(\alpha B, b)$、$(B, \beta b)$和$(0, 0)$。
• 成本结构：人类代理人需要付出努力成本$g(e)$，AI的可靠性为$E$，表示其正确识别项目收益的概率。

2. 决策权分配的条件

• AI决策权：当AI的可靠性足够高时，$P$会倾向于将决策权交给AI，即使AI存在偏差。
• 人类决策权：如果AI的可靠性较低或偏差较大，$P$可能更倾向于保留人类决策权，以激励代理人努力。
• 努力的边际效益：人类代理人的努力边际效益取决于AI的可靠性。当AI可靠性提高时，人类努力可能下降。

3. AI性能与收益的关系

• AI性能的边际效益：提高AI的性能（$E$）可能会降低人类代理人的努力，从而影响组织整体收益。
• AI的可靠性与偏差：AI的可靠性（$E$）和偏差（$\mu$）会影响其决策质量。当AI偏差较高时，人类代理人更可能努力以避免其决策被采纳。

4. AI分类与决策权分配

• 替换型AI：当AI性能接近完美且无偏差时，应赋予其决策权。
• 增强型AI：当AI性能较弱且人类代理人目标与决策者一致时，AI的改进可能带来收益。
• 不可靠型AI：当AI性能较强但人类代理人目标不一致时，使用不可靠AI可能更优，因为它能激励人类努力。
• 对抗型AI：当AI性能较弱但人类代理人目标一致且对AI性能变化反应强烈时，应保留人类决策权，但可以有意识地让AI做出不利于人类的决策以激励其努力。

结论

本文指出，AI的引入对组织决策权分配有重要影响。决策者应根据AI的可靠性、偏差以及人类代理人的激励反应来决定是否将决策权交给AI。在某些情况下，即使AI性能较好，组织也可能倾向于保留人类决策权以确保决策质量。因此，AI的培训和使用策略需要与组织内部的激励机制相协调。