KPMG+生成式人工智能模型的商业风险和潜在回报-15页_277kb

生成式AI模型在企业中的风险与潜在机遇

正文摘要

我们相信，生成式人工智能(Generative AI)模型有潜力通过以前所未有的速度和效率自动化和执行特定任务来改变企业。然而，要负责任地、可信赖地、安全地释放其全部潜力，还需要时间和专业知识。

本报告探讨了生成式AI在企业中的潜在应用场景，并分析了使用相关应用程序（如ChatGPT）时应考虑的因素。

什么是生成式AI模型？

生成式AI与分析或处理现有数据的AI不同，它能够生成内容（如文本、图像、视频和代码）。代表性的应用程序有ChatGPT等。

生成式AI的潜在机会与应用场景

生成式AI已应用于IT、人力资源、运营、财务等多个领域，包括总结文章、起草提案、翻译代码、处理法律文件以及客户服务等。

我们预计，到2025年，大型组织30%的出站消息将是合成生成的。

当前的考虑因素

尽管生成式AI带来了巨大机遇，但也存在巨大风险，包括：

1. 缺乏人类推理：模型也能生成不实或有害的内容，需要人类审查。
2. 数据隐私与保密性问题：用户输入的数据可能被用于其他用途，暴露商业机密。
3. 版权与知识产权：使用AI生成的内容，其版权归属尚不明确。
4. 偏见和歧视：模型可能因训练数据而产生偏见，导致错误或歧视性内容。
5. 外部隐患与声誉风险：可能生成虚假信息、深度伪造内容，引发声誉损害、法律诉讼等。
6. 网络安全漏洞：可能被用于设计更复杂的安全攻击，如对抗性攻击和网络钓鱼。

未来展望

生成式AI有望被进一步集成到常用应用程序和系统中。技术界也在探索其在软件开发、视频生成、元宇宙、信息安全性等方面的潜能。

KPMG 如何助力？

KPMG拥有超过150年运用新技术的经验，并通过“全球灯塔中心”(Global Lighthouse)，为其客户提供负责任、可信、安全的AI解决方案设计和部署服务。KPMG提供：

• 可信赖的AI治理框架
• 负责任地利用AI
• 在AI设计、构建和部署方面的专业知识

结论

生成式AI具有巨大的潜力，但也伴随着风险。负责任地利用生成式AI并确保其符合法规、伦理要求，对任何组织都是至关重要的。