2023-11-19-ISACA-生成式AI应用现状及政策建议_12页_518kb

报告摘要

生成式AI应用现状及政策建议总结

核心内容

生成式AI正迅速被各行各业采用，但其应用伴随着诸多风险。ISACA的一项调查揭示了当前企业在生成式AI应用中的现状与挑战，强调了政策制定、培训、伦理考虑和风险管理的重要性。

主要观点

应用率高但政策准备不足：生成式AI的使用率快速上升，但仅有28%的组织明确允许其使用，且多数缺乏相关政策准备、培训和风险管理机制。
员工使用情况参差不齐：41%的组织表示员工不论有没有相关政策都在使用生成式AI，另有35%表示不确定。
AI应用带来显著生产力提升：65%的组织使用生成式AI进行书面写作，32%用于自动化重复性任务，44%用于提高生产率，29%用于客户服务，27%用于改进决策。
风险不容忽视：6%的组织为员工提供AI相关培训，54%根本没有相关培训。41%的组织对AI应用伦理标准关注不足。
AI对岗位的影响：45%认为AI将导致大量岗位被淘汰，23%认为岗位数量会增加，19%计划在未来12个月内释放AI相关岗位。
数字信任专业人士对AI持乐观态度：85%的受访者认为AI能扩展人类生产力，80%、81%和82%分别相信AI对行业、组织和自身职业有积极或中性影响，62%认为AI对社会有积极或中性影响。

关键信息

生成式AI的五大风险

错误信息 / 虚假信息
侵犯隐私
社会工程学
知识产权（IP）损失
裁员

实施生成式AI政策的考虑因素

谁会受到政策影响？
- 消费者、监管机构、员工、IT部门等均需明确其责任与权限。
- 需要明确政策适用范围及各方职责。
AI系统是否安全？
- 必须确保AI系统安全，防止未经授权的访问、篡改和滥用。
- 需要验证AI工具是否符合隐私标准和负责任AI原则。
政策是否包括AI道德原则？
- 需要确保AI应用不造成危害，如算法偏见。
- 需要解释AI工具的决策过程，保持算法透明。
什么是可接受的行为？
- 明确AI的使用范围，如仅限于业务相关活动。
- 需要设定AI的禁区与规定，具体取决于行业需求。
数据处理与培训指南
- 处理个人数据或敏感信息时，需确保数据的去身份化和匿名化。
- 数据质量直接影响AI输出的准确性与可靠性。
法律与合规要求
- 必须符合本地、国家及国际法律，尤其是版权、数据保护与错误信息相关法规。
限制与风险
- 承认生成式AI的内在限制，强调人类监督的重要性。
与其他政策的关联
- 生成式AI政策需与数据隐私、信息安全等政策相互支持。
- 跨部门合作是政策实施的关键。
如何处理例外情况？
- 需要制定流程，以应对必要时的例外使用情况。
如何报告与调查违规？
- 为IT部门提供适当的调查工具，确保违规行为可被审查。
- 员工守则和HR政策应包含违反AI使用条款的处罚机制。
谁负责审查、管理与审计？
- 需要明确责任人，确保政策的持续管理和审计。
- 风险评估与政策更新是关键环节。
政策如何及何时更新？
- 政策应至少每年更新一次，或根据需要更频繁更新。
- 培训与信息强化是保持政策有效性的必要手段。
- 建立反馈路径，促进持续改进。