2021-12-13-德勤-大开_智_界_8页_569kb

人工智能监管日趋严格：2022年趋势与影响总结

核心内容

2022年，人工智能（AI）将面临日趋严格的监管审查，其影响将覆盖多个行业。尽管监管通常滞后于技术创新，但当前全球多个地区已开始积极制定相关法规，试图系统化地管理AI技术的使用。这些监管措施旨在解决AI在公平性、偏见、歧视、隐私等方面带来的潜在风险，同时也在地缘政治层面成为国家间竞争的工具。

主要观点

• 监管趋势加速：2022年将是AI监管讨论更加广泛的一年，预计会有更多监管提案被提出，尽管这些法规可能在2023年或之后才会生效。
• 技术发展推动监管：近年来，AI技术在性能、处理速度和数据集规模方面显著提升，使其应用更加广泛，从而引发更严格的监管需求。
• 监管挑战：AI的不透明性使得监管难以有效实施，监管机构需应对算法黑箱问题，同时平衡技术发展与社会影响。
• 数据质量成为关键：监管法规强调训练数据的质量，要求数据具有相关性、代表性、无错误且完整，这对许多企业提出了极高门槛。
• 不同行业影响不一：高风险行业如金融、医疗、教育、司法等将受到更严格监管，而物流、制造等行业的影响相对较小。

关键信息

监管焦点行业

• 金融服务：AI在信用评级、贷款、保险、理财等领域广泛应用，监管将直接影响其决策过程。
• 人力资源：招聘、绩效评估、晋升等环节使用AI可能引发偏见问题，受到监管关注。
• 公共领域：如医疗、教育、政府福利、刑事司法等，AI的使用将面临更严格的审查。
• 互联网平台：内容审核依赖AI，但算法缺乏透明性，可能加剧平台内容政策中的不公平现象。

潜在监管措施

• 禁止某些AI应用：如公共场所人脸识别、社会评分系统等。
• 推动透明与可审查性：监管机构可能要求AI系统具备更高的可解释性，以减少偏见和不公平问题。
• 建立全球标准：某国或地区可能设定AI监管的“黄金标准”，从而在国际竞争中占据优势。

企业应对策略

• 人工智能工具供应商：需关注不同地区的监管动向，可能面临销售限制或法律责任。
• 人工智能使用者：如科技互联网平台，需评估其AI技术是否符合监管要求，避免因偏见或不透明性引发争议。
• 自我监管与行业合作：企业可能通过组建联合体，推动AI透明度和可审查性，以减少外部监管压力。

小结

未来两年，AI监管可能呈现以下几种情景：

1. 部分辖区关闭AI功能：企业可能因监管压力而暂停某些AI服务或业务。
2. 监管法规冲突：欧盟、美国和中国等主要市场可能出台相互冲突的AI监管法规，增加企业合规难度。
3. 全球“黄金标准”形成：某一套法规可能成为主导标准，简化跨境合规。
4. 行业自我监管兴起：企业可能通过合作推动AI透明度和可审查性，以应对监管挑战。

致谢与作者信息

本报告由德勤科技、传媒和电信行业中心团队撰写，感谢以下贡献者：

• Beena Ammanath, Ralf Esser, Lukas Kruger, Susie Samet, Nick Seeber

作者：

• Duncan Stewart（加拿大）：德勤加拿大科技、传媒与电信（TMT）行业研究总监。
• Paul Lee（英国）：德勤全球TMT行业研究负责人。
• Ariane Bucaille（法国）：德勤全球TMT行业负责人，同时领导法国TMT实践与审计业务。
• Gillian Crossan（美国）：德勤风险与财务顾问部高级经理，领导全球科技行业研究。

联系方式

如需了解更多信息，可访问：

• 德勤科技、传媒和电信行业中心
• 德勤洞察
• 订阅TMT行业资讯

参与人员

• 编辑：Junko Kaji, Preetha Devan, Prodyut Ranjan Borah, Rupesh Bhat, Arpan Kumar Saha, Ribhu Ranjan, Emma Downey, Nairita Gangopadhyay, Blythe Hurley, Aparna Prusty
• 创意：Jaime Austin, Sylvia Yoon Chang, Govindh Raj, Sanaa Saifi, Rishwa Amarnath
• 推广：Maria Martin Cirujano
• 封面设计：Jaime Austin

关于德勤

德勤是全球领先的会计师事务所之一，提供专业的审计、税务、咨询等服务。本报告为一般性信息，不构成专业建议。如需专业建议，请咨询合格的专业顾问。

参考资料

1. European Commission, "Proposal for a regulation of the European Parliament and of the council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)" (April 21, 2021).
2. Rebecca Kelly Slaughter, "Algorithms and economic justice: A taxonomy of harms and a path forward for the Federal Trade Commission" (August 2021).
3. European Commission, "Artificial Intelligence Act".
4. Arjun Kharpal and Evelyn Cheng, "The latest target of China's tech regulation blitz: algorithms" (September 9, 2021).
5. Robert Gorwa, Reuben Binns, and Christian Katzenbach, "Algorithms content moderation: Technical and political challenges in the automation of platform governance" (2020).