【国际隐私专业协会IAPP】2024负责任的人工智能管理报告实践演进与价值增长_31页_8mb

总结：Responsible AI Management - Evolving Practice, Growing Value

核心内容

本报告总结了2023年一项关于企业实施“负责任的人工智能管理”（RAIM）的调查研究。该研究由俄亥俄州立大学的“数据与治理项目”（PDG）发起，旨在了解企业如何实践负责任的人工智能管理，谁负责这些实践，以及这些实践为公司创造了哪些价值。

主要观点

• RAIM的重要性：大多数企业认为RAIM对其公司至关重要，68%的受访者表示RAIM对其公司“重要”或“非常重要”，近90%认为企业应“有意义地投资”RAIM。
• RAIM的实践情况：尽管企业普遍认可RAIM的价值，但其实施仍处于初级阶段。仅29%的企业表示他们已对RAIM进行了“大量”或“非常大量”的实施，而44%表示仅“部分”实施。
• RAIM的价值来源：RAIM主要为企业带来产品质量和信任度的提升，同时减少风险。实施更成熟的RAIM程序的企业报告了更高的价值。
• RAIM的实施障碍：许多公司尚未建立系统的RAIM评估机制，也缺乏对员工进行专门培训的措施。此外，RAIM实施存在选择偏差，可能偏向于较大或更成熟的公司。

关键信息

RAIM的活动

根据调查，企业普遍参与的RAIM活动包括：

• 跟踪法律和政策发展（94%）
• 识别AI使用可能带来的伤害（69%）
• 制定AI伦理原则（59%）
• 建立内部RAIM政策（53%）
• 成立内部AI伦理委员会（56%）
• 采用差分隐私技术（52%）
• 评估员工RAIM表现（19%）

负责RAIM的人员

• 隐私专家：60%的企业将RAIM职责分配给了特定人员，其中隐私经理和具有隐私责任的法律顾问是最常见的职位（各占44%）。
• 其他职位：高级经理（41.7%）、数据科学家（38%）、AI伦理或负责任AI官员（28%）等也参与其中。
• 跨职能参与：RAIM职责可能由多个职位共同承担，且这些职位分布在不同的部门或单位。

RAIM的价值

• 总体价值：所有企业都报告了RAIM带来一定的价值，其中近40%表示“很多”或“大量”价值。
• 价值来源：
  • 信任度提升：通过制定AI伦理政策，企业可增强客户和利益相关者的信任。
  • 产品质量提升：识别AI可能带来的伤害并采取措施有助于提高产品和服务质量。
  • 风险降低：通过评估法律和政策风险，企业可以减少潜在的合规和声誉风险。
  • 竞争优势：部分企业通过要求供应商遵守其RAIM政策，获得了竞争优势。

RAIM的成熟度

• 成熟度水平：超过75%的企业将RAIM程序描述为“新/年轻/刚开始”或“正在发展/成长”，仅不到10%认为其“成熟/已建立”。
• 未来预期：超过70%的企业预计未来一年内将增加对RAIM的投资，表明企业对RAIM的重视正在上升。

主要发现

1. 大型企业为主：大多数受访者来自拥有1000名以上员工和年收入超过1000万美元的公司。
2. RAIM活动多样：企业实施的RAIM活动至少包括14项，但很多活动尚未广泛开展。
3. 隐私专家主导：隐私专家是RAIM职责的主要承担者，其次是法律和数据分析人员。
4. 价值与实施不匹配：尽管企业普遍认为RAIM重要，但实施程度仍较低，且存在选择偏差。
5. RAIM的潜在价值：RAIM不仅有助于企业实现其价值观，还具有战略意义，如提升产品质量和信任度。
6. 未来增长预期：企业普遍预期未来一年内对RAIM的投资将增加，表明其发展势头良好。
7. 缺乏评估机制：只有25%的企业评估自身的RAIM表现，19%评估员工的RAIM表现，表明在绩效评估方面仍有很大提升空间。
8. 需要进一步研究：目前的研究数据不足以明确某些RAIM活动与特定价值之间的关系，需要更多实证研究来验证。

结论

尽管负责任的人工智能管理（RAIM）在企业中仍处于早期阶段，但其重要性已被广泛认可。随着公众和法律对AI的监管日益加强，企业开始重视RAIM以提升信任、产品质量和竞争优势。然而，目前RAIM的实施仍不成熟，缺乏系统的评估机制和足够的员工培训。未来的研究应聚焦于RAIM的实践细节、价值来源及其评估方法，以帮助企业更有效地推进负责任的人工智能管理。