ISACA：利用数字信任生态系统框架实现可信的人工智能（中文版）_21页_12mb
报告摘要
利用数字信任生态系统框架实现可信的人工智能 - 总结
核心内容
本白皮书探讨了企业如何利用 ISACA 数字信任生态系统框架（DTEF） 来构建可信的人工智能（AI）系统。DTEF 提供了一种全面的治理和风险管理方法，以确保 AI 技术在整个生命周期中符合数字信任原则。它涵盖了人员、流程、技术、组织等多维度，强调信任要素、实践和活动在 AI 实施中的重要性。
主要观点
- AI 的广泛影响：AI 已经深入企业运营，从客户服务到金融欺诈检测，甚至在员工日常工作中被使用。AI 的普及带来了效率提升，同时也带来了新的风险。
- AI 的风险与挑战：AI 可能被用于恶意目的，如生成虚假信息、实施网络诈骗等。此外，AI 的集成和使用增加了对数据质量和系统安全的依赖。
- DTEF 的作用：DTEF 是一个三维模型，通过六个域（文化、人为因素、架构、指导与监控、涌现、赋能和支持）协调 AI 生命周期中的关键活动，从而支持数字信任的建立和维护。
- AI 生命周期管理：AI 生命周期包括设计、开发、部署和持续监控四个阶段，每个阶段都需要相应的治理和信任管理措施。
- 治理与监督的重要性：治理是 DTEF 实施模型的基础，确保 AI 的使用符合业务目标、法律合规、风险管理要求，并能持续改进。
关键信息
AI 生命周期
-
设计阶段：
- 了解问题：明确业务需求，识别AI应用的适用性。
- 数据收集与探索：评估数据质量，识别数据来源。
- 数据整理与准备：将原始数据转换为适合模型训练的格式。
-
开发阶段：
- 建模：尝试多种AI模型，选择最适合业务需求的模型。
- 评估：在新数据上测试模型性能，确保其泛化能力。
-
部署阶段：
- 投入生产：将经过验证的AI模型部署到实际环境中。
- 监控输出：持续跟踪AI表现，防止模型漂移，确保其持续有效。
DTEF 实施模型
DTEF 实施模型分为五个阶段，加上第六个治理和监督阶段：
- 了解业务环境：确定AI愿景、风险、业务成果。
- 了解数字环境：识别AI产品、利益相关者、数字关系、供应链和用例。
- 制定数字信任战略：设定战略目标、系统规划、商业案例。
- 规划和实施数字信任：制定项目计划，明确责任人，实施AI计划。
- 监控、衡量和改进：设定衡量标准，持续监控并改进AI系统。
- 治理和监督：确保AI符合GRC框架，管理风险，维护数字信任。
DTEF 的六大域
- 文化：管理组织内部与AI相关的文化，包括接受度、培训、治理。
- 人为因素：确保AI系统的易用性、可解释性、可监控性。
- 架构：协调数据、人员、流程和技术，嵌入AI到整体ICT环境中。
- 指导与监控：将AI纳入企业风险管理（ERM）框架，确保其合法、合规、安全。
- 涌现：识别和管理AI可能引发的新兴情况、偏差和风险。
- 赋能和支持：支持AI在服务价值链中的应用，确保其持续运行和改进。
典型用例：客户服务聊天机器人
- 聊天机器人已成为AI在客户体验中的重要应用。
- AI 聊天机器人可以分为简单型、智能型和混合型，随着NLP技术的发展，其功能不断增强。
- DTEF 在聊天机器人部署中提供关键信任要素和实践，如：
- 管理数字信任资源
- 调整数字信任技术以满足业务需求
- 监控AI输出，防止模型漂移
- 识别并管理潜在触发因素
- 管理服务流程与AI集成
结论
DTEF 为 AI 实施提供了一个全面、灵活的框架，有助于企业建立数字信任，降低风险，并确保 AI 技术在业务中负责任地使用。随着 AI 技术的快速发展，企业需要将其纳入整体治理结构，以确保其合规性、安全性和有效性。DTEF 不仅适用于 AI 的开发和部署，还可以与其他治理框架结合使用，以支持 AI 在组织中的可持续发展。
附录：致谢与联系方式
-
ISACA 中国办公室
地址：北京市东城区隆福寺街95号隆福文创园1号楼WeWork3层
邮箱：ISACACHina@isaca.org
客服：support.isaca.org 18515911939（同微信） -
ISACA 全球办公室
地址：1700 E. Golf Road, Suite 400, Schaumburg, IL 60173, USA
电话：+1.847.660.5505
传真：+1.847.253.1755
支持邮箱：support.isaca.org
网站：www.isaca.org -
社交媒体
展开完整摘要
试读结束，高清完整版pdf/doc/ppt,请点下载
