计算机行业深度报告：AI监管，铸就创新与安全平衡之道-20230724-东吴证券-31页_2mb

计算机行业深度报告：AI监管

核心内容

AI技术的快速发展正在引发一系列新的安全问题，包括AIGC内容安全和数据安全。为应对这些问题，全球范围内正加速推进AI监管政策的制定和实施。中国、美国和欧盟分别采取了不同的监管路径，但均强调在保障安全的同时促进AI的创新和应用。AI监管的市场前景广阔，预计到2030年，国内AI大模型监管市场规模将达到500-1000亿元。

主要观点

• AI发展带来安全挑战：以ChatGPT为代表的生成式人工智能技术正在改变内容生产方式，但也带来了虚假信息、偏见歧视、意识渗透等风险，对国家安全、社会稳定和经济安全构成威胁。
• 政策法规是监管基石：政府层面的法律法规和标准是AI监管的核心。中国已出台《生成式人工智能服务管理暂行办法》，并计划制定《人工智能法》。欧盟通过《人工智能法案》形成风险金字塔监管体系，美国则以非强制性指导文件为主，鼓励行业自律。
• 监管手段多样化：AI监管不仅依赖政策法规，还通过内容安全机制、技术手段（如AI检测AI）实现对违规应用的识别和治理。
• AI监管市场潜力巨大：AI安全将成为各环节必须考虑的问题，预计2030年国内AI监管市场规模将达千亿级别。
• 企业需加强自我监管：AI企业需主动配合监管，提升技术能力，以消除公众对AI的不信任。

关键信息

AI安全问题

• AIGC内容安全：生成式AI可能生成虚假信息、诈骗内容、违法内容，如深度合成视频、AI换脸、AI变声等，甚至影响意识形态安全。
• 数据安全：AI模型在训练过程中可能引发数据泄露，如ChatGPT因Redis开源库bug导致信息泄露，引发多国禁用和整改。

AI监管政策

• 中国：7部委联合发布《生成式人工智能服务管理暂行办法》，8月15日正式施行；《人工智能法》列入立法计划。
• 欧盟：《人工智能法案》具有域外效力，形成全球AI监管标准，通过布鲁塞尔效应推动全球AI治理。
• 美国：虽以弱监管为主，但近期监管加速，出台《人工智能权利法案蓝图》、《人工智能风险管理框架》等文件，并成立专门工作组。

AI监管技术手段

• 内容安全机制：包括数据清洗、算法备案、提示词过滤、生成内容拦截、内容显著标识等。
• AI检测AI：利用AI对抗技术，对生成内容进行真实性检测，如人民网的AIGC-X平台，准确率超90%。
• 多模态识别技术：如博汇科技的“慧视”平台，可识别文字、图片、语音、视频等多类型内容。
• 安全检测工具：如东方通推出的“瑶光内容安全监测系统”和“TongGPT智能语音交互系统”，可识别200多种违法违规内容。

AI监管市场前景

• 市场规模预测：2030年AI核心产业规模预计超1万亿元，AI监管市场规模预计达500-1000亿元。
• 行业竞争要素：品牌、技术、市场为AI监管企业竞争的核心要素，具备国资背景、强大研发能力的企业更具优势。

相关标的

• 人民网：拥有内容科技服务能力，推出AIGC-X平台，准确率高，内容科技服务占比约22%。
• 新华网：依托新华社权威，推出事实核查机器人和AIGC-Safe平台，内容安全检测能力突出。
• 美亚柏科：专注电子数据取证与公共安全，拥有AI-3300“慧眼”等产品，传媒安全业务占比高。
• 博汇科技：专注于视听大数据，推出智能视听全站解决方案，传媒安全业务占比达74.4%。
• 东方通：国内中间件龙头，推出多种AI安全产品，安全产品收入占比达38.11%。
• 拓尔思：中文全文检索技术的开创者，提供多领域AI安全服务，人工智能软件产品营收逆势增长。

风险提示

• 政策落地不及预期；
• AI监管推进不及预期；
• 行业竞争加剧。

图表与数据

• 图1-图3：展示AI生成内容风险、钓鱼邮件生成、虚假图片传播等案例。
• 表1-表10：涵盖数据泄露事件、各国AI监管政策、公司业务及营收结构等关键信息。
• 图14-图30：显示各公司产品体系、营收增长、系统运行界面等。

总结

AI监管已成为全球AI治理的重要方向，政策法规先行，技术手段多样。随着AI技术的不断进步和应用的广泛，AI安全问题日益突出，监管需求快速增长。国内AI监管市场有望在2030年达到千亿规模，具备内容安全合规、数据安全、AI检测能力的企业将率先受益。