利用数字信任生态系统框架实现可信的人工智能（中文版）-ISACA_21页_12mb

报告摘要

本白皮书探讨了如何利用 ISACA 数字信任生态系统框架（DTEF） 来确保企业在采用人工智能（AI）技术和服务时能够实现数字信任。DTEF 作为一个全面的治理框架，帮助企业识别、评估和管理与AI相关的风险，并在整个AI生命周期中支持数字信任的建立和维护。

设计：
- 了解问题：明确AI要解决的业务问题和预期结果。
- 数据收集和探索：评估数据质量和可用性。
- 数据整理和准备：将原始数据转换为适合AI模型使用的格式。
开发：
- 建模：选择和训练最佳AI模型以实现预期结果。
- 评估：测试AI模型在新数据上的泛化能力，确保其符合业务目标。
部署：
- 投入生产：将AI模型部署到实际环境中。
- 监控AI模型输出：确保模型在运行过程中保持性能，并及时更新以应对“漂移”现象。

DTEF的实施分为五个阶段，再加上第六个治理和监督阶段，作为基础：

域	与AI相关的考虑
文化	管理数字信任文化，包括接受度、培训、治理共识等。
人为因素	确保AI易于使用、管理风险、协调组织结构。
架构	将AI映射到企业ICT环境中，管理资源和流程。
指导和监控	管理数字生态系统风险，确保AI在组织中正确运行。
涌现	识别和管理可能影响AI运行的外部和内部因素，包括偏差和变化。
赋能和支持	将AI整合到服务价值链中，确保其运行符合质量、安全和隐私要求。

聊天机器人正在从基于规则向AI驱动转变，包括智能型、混合型和语音支持型。
DTEF在该用例中支持：
- 管理数字信任资源（如客户前端应用）。
- 根据组织需求调整技术。
- 监控AI运行，确保其符合预期目标。
- 识别并管理AI行为者的潜在触发因素和偏差。

AI技术正在快速发展，其影响深远。企业必须采取结构化的方法来管理AI风险，确保其在业务中负责任、道德地使用。DTEF为企业提供了一个全面、灵活的框架，帮助组织在整个AI生命周期中实现数字信任，从而增强竞争力，确保AI解决方案的安全性和有效性。

本白皮书由ISACA编写，感谢以下专家的贡献：

首席开发人员：Chetan Anand
专家评审：Joyce Chua, J. Winston Hayden, Ed Moyle, Geetha Murugesan, Rolf von Roessing
董事会成员：John De Santis, Brennan R Baybeck, Stephen Gilfus, Niel Harper, Gabriela Hernandez-Cardoso, Jason Lau, Massimo Migliuolo, Maureen O'Connell, Erik Prusch, Asaf Weisberg, Pamela Nigro, Gregory Touhill, Tracey Dedrick

ISACA中国办公室
地址：北京市东城区隆福寺街95号隆福文创园1号楼WeWork3层
邮箱：ISACACHina@isaca.org
客服：support.isaca.org 18515911939（同微信）

ISACA全球总部
地址：1700 E. Golf Road, Suite 400, Schaumburg, IL 60173, USA
电话：+1.847.660.5505
传真：+1.847.253.1755
网站：www.isaca.org
社交媒体：