2025年大模型应用可信框架助力企业构建可信AI体系报告_10页_1mb

报告摘要

蚂蚁集团大模型应用可信框架总结

核心内容

蚂蚁集团作为一家领先的互联网科技公司，其业务涵盖数字支付、数字金融、数字科技及全球化等多个领域。随着生成式人工智能（GenAI）技术的快速发展，大模型和智能体在金融、医疗、安全等行业应用日益广泛，但同时也带来了诸多安全与可信挑战。为应对这些挑战，蚂蚁集团提出了 DKCF大模型可信应用框架，旨在帮助企业构建安全、可信、高效的AI应用体系。

主要观点

生成式AI的挑战：大模型在专业领域的应用面临推理核验缺失、知识工程不足、数据工程不足、反馈循环低效等问题，这些问题可能导致模型输出错误、幻觉、不合规等安全风险。
可信AI体系的重要性：构建可信AI体系需要从企业战略层面进行规划，并将安全、治理、合规等要素左移，贯穿大模型的训练、推理、执行全流程。
DKCF框架的定义：DKCF是集“数据（D）、知识（K）、能力协同（C）、高效反馈（F）”于一体的可信应用框架，旨在解决大模型在专业场景中的可信问题。

关键信息

四大核心模块

充足数据（D）
- 提供丰富的数据源，确保大模型依赖充分数据进行决策。
- 采用“平行切面”技术按需采集数据，增强数据的实时性和全面性。
专业知识（K）
- 构建高质量的行业知识库，自动汇聚为领域知识图谱。
- 提高大模型在专业领域中的知识准确性和可计算性。
能力协同（C）
- 将复杂任务分解为可操控的子任务，利用多智能体协作提升执行效率。
- 引入HOP（高阶程序技术），结合编程语言与自然语言，实现高效任务规划与执行。
高效反馈（F）
- 构建闭环反馈机制，使推理结果驱动数据的进一步收集和供给。
- 通过HOP的核验机制，提升反馈效率，降低错误率。

应用案例：风险研判助手

在网络安全领域，DKCF框架被应用于构建风险研判助手，有效降低人力依赖与知识门槛。
系统包含五个模块：切面数据预处理、知识模块、Agent模块、线索模块、反馈循环模块。
在实际环境中稳定运行3个月，已取得初步成效。

企业战略

蚂蚁集团聚焦三大发展战略以增强发展新动能：

“支付宝双飞轮”发展：提升支付业务，助力服务业数字化升级。
“AI优先”战略：深耕AI核心技术，全栈布局大模型与数据科技。
加速全球化：通过移动支付技术共建全球数字普惠生态。

未来展望

大模型和智能体在行业落地时需解决“水土不服”问题，核心在于提升模型在训练、推理、执行过程中的可信度与安全性。
企业需构建统一的AI治理框架，涵盖数据、知识、流程、反馈机制等，实现安全、可靠、可控的AI应用。
AI治理需与企业战略相辅相成，通过流程规范、技术保障和生态合作，推动可信AI体系的建设。

建议与研究方向

蚂蚁集团应加快DKCF框架的理论落地，通过标杆案例提升用户理解。
构建大模型可信应用的技术生态，支持用户定制化建设安全可信体系。
进一步研究方向包括：Custom GenAI: Balancing Innovation and Security、Agentic AI Security等，以完善AI治理能力。

市场背景

IDC预测，到2030年，AI将为全球带来22.3万亿美元的经济价值，占GDP的3.7%。
全球各国对AI可信度提出严格要求，如NIST、欧盟《人工智能法案》和中国《生成式人工智能服务管理暂行办法》。
当前AI治理市场尚不成熟，缺乏一体化解决方案，需企业结合法规、流程和技术创新，推动AI治理体系的构建。

总结

蚂蚁集团提出的DKCF大模型可信应用框架，为企业在专业领域部署大模型和智能体提供了系统性解决方案。该框架通过整合数据、知识、能力协同与高效反馈，有效应对模型幻觉、内容安全、访问安全等关键问题，助力企业构建统一、持续、安全的AI治理体系。未来，蚂蚁集团需进一步深化该框架的实践应用，推动AI可信生态的发展。

展开完整摘要