生成式AI应用现状及政策建议-国际信息系统审计协会_12页_518kb

生成式AI应用现状及政策建议2023年11月2日
ISACA对2300余名审计、风险、安全、数据隐私等领域的专业人士进行调查，发现生成式AI应用率快速上升但政策准备严重不足。仅28%的组织明确允许使用生成式AI，41%的组织员工不论是否有政策均在其工作中使用该技术，另有35%的组织对使用情况不确定。主要应用方式包括书面写作（65%）、提高生产率（44%）、自动处理重复任务（23%）、提供客户服务（32%）以及改进决策（27%）。

当前主要风险包括错误信息/虚假信息（77%）、侵犯隐私（35%）、社会工程学（58%）、知识产权损失（63%）及裁员（68%）。AI对岗位的影响呈现两极分化：19%的组织计划新增AI相关岗位，而70%认为AI会导致大量岗位被淘汰。尽管80%的数字信任专业人士认为AI对自身工作有积极影响，但54%认为需要额外培训才能维持职业发展。

整体前景乐观，85%的受访者认为AI作为工具能提升人类生产力，62%认为其对社会有积极或中性影响。未来五年内，81%的受访者相信AI会对所在组织产生积极影响，82%认为对自身职业有益。ISACA强调需建立AI可接受使用政策（AUP），以平衡技术收益与风险。该政策需涵盖道德原则，确保不会产生有害算法偏见，并保持算法透明以维持消费者信任。

关键考虑因素包括：明确政策适用范围、确保AI系统安全与隐私合规、界定数据处理指南、设定培训计划、定义责任分工（高管、法律团队、技术专家等），以及建立反馈机制。政策实施需覆盖所有部门，避免局限于单一领域。同时需制定流程应对违规情况、例外处理及合规审查，例如通过水印标记AI生成内容、建立审批机制、提供调查工具等。

监管环境与政策需保持同步，法律合规要求应整合本地、本国及国际法规，重点关注版权、数据保护及错误信息治理。政策需每年更新或根据技术发展更频繁调整，并与现有数据隐私、信息安全政策协同执行。最终，政策制定应促进透明性和问责制，确保利益相关者共同参与，形成持续改进的文化。