CFDI-为什么人工智能生成的内容标签授权不足（英）-2024.12-13页_390kb

中心数据创新（Center for Data Innovation）报告总结

一、核心论点

强制性AI生成内容标记得不到有效实施，无助于解决主要问题（如虚假信息、侵犯知识产权、深度伪造等），更应通过整体建设数字信任、提升数字素养及采取针对性措施。

二、背景与现状

1. 存在问题

• 技术局限性：水印易被移除，防护能力不足。
• 国际法律不统一：不同国家对水印规定不一，造成跨国内容避监管。
• 非AI内容同样存在问题：虚假信息、侵权、深度伪造等内容可能来自人类或AI。

2. 已推出政策措施

• 欧盟：《人工智能法》要求AI生成内容采用机器可读标签，包括水印、加密元数据等。
• 英国、中国、美国：多个州/联邦政策提出强制水印或可验证标签。

三、对强制标记得出的批评

（一）技术与执行风险

• 水印易被操纵、移除，无法抵御恶意行为。
• 缺乏统一标准，跨地区检测难度大，水面标记方法不适用于音频、文本等所有格式。

（二）非关键性解决方案

• 强制标记无助于解决虚假信息、版权侵犯、深度伪造等系统性问题，聚焦AI标记反而可能引向社会分裂。

（三）无关的二元对立

• 误导性地区分AI与人类创作内容，忽略人为内容同样有害。
• 局部信任偏差：公众倾向于信任无标记内容，而不仔细批判其真实性。

四、建议对策

（一）推广自愿性标签机制

• 鼓励行业遵循C2PA等行业标准，嵌入加密元数据（区块链式），以建立内容来源链。
• 政府带头采用C2PA等方式，提升公众信任。

（二）提升用户数字素养

• 启动“数字/AI/媒体素养计划”，教育公众评估信息、辨别真实性，引导AI工具合理使用。
• 特别关注青少年与普通用户，增强网络安全意识和AI敬畏心理。

（三）针对性问题解决机制

• 虚假信息/DISINFO处理：加强内容信誉验证标准，提升用户批判性阅读能力。
• 版权侵权应对：落实已有版权法律，加强跨领域监督与执行，而非单独限制AI创作。
• 深度伪造处理：要求政治广告中不得使用有实质性欺骗效果的媒体；打击“非自愿色情图文生成”等反报复机制。

五、结论

强制性标记方法不现实，不能有效解决核心问题。应将重心转移到提升数字内容生态的整体信任与透明度，建立统一标准，培养数字素养并采取针对虚假信息、侵权和深度伪造内容的特别治理措施。