北大国际战略研究院-第40期-假消息之战_6页_335kb

假消息之战总结

核心内容

随着人工智能、去中心化应用程序等新技术的快速发展，虚假信息的生成与传播变得更加复杂和难以监管。美国和欧洲在应对“深度假象”（Deepfakes）等新型假消息方面尚未做好充分准备，现有的法律和策略多针对传统假消息，无法有效应对技术进步带来的新挑战。

主要观点

• 技术进步速度快于政策制定：当前政府采取的反假消息措施往往滞后于技术发展，无法有效应对由人工智能和去中心化技术驱动的新形式虚假信息。
• 深度假象的威胁日益加剧：深度学习和生成式对抗网络（GAN）技术使得伪造图像、音频和视频变得极为逼真，难以被检测。例如，FakeApp 和 Lyrebird 等工具让普通人也能制作深度假象。
• 社交平台仍是假消息传播的重要渠道：尽管平台如脸书、推特和谷歌已采取一些措施，但其算法和系统设计仍存在漏洞，使得假消息更容易被推广和误信。
• 去中心化技术带来新的挑战：区块链和去中心化应用（DApps）虽增强了隐私和安全性，但也使假消息更难被追踪和删除，为恶意行为者提供了新的工具。
• 需要从“后端”入手应对假消息：当前反假消息的努力多集中在内容层面，忽视了背后的广告市场、搜索引擎优化操控和数据经纪等基础设施。

关键信息

1. 欧洲的应对措施

• 德国《网络执行法》：限制网络上的仇恨言论和虚假信息。
• 欧盟新策略：提升媒体素养、资助第三方事实核查、鼓励社交平台优先展示可信媒体内容。
• 脸书与推特的局限性：脸书的“有争议的标志”未能减少假消息互动；推特的API和账号验证机制存在漏洞，使假消息容易扩散。

2. 人工智能的双重用途

• 人工智能的民主化：未来几年，更多人将能使用尖端AI技术，这将使假消息的制作和传播更加普及。
• 检测难度增加：AI生成的假消息更难被现有技术识别，因为它们高度模仿真实内容。
• 政策与技术需结合：仅靠算法无法有效应对假消息，需投资新的社交验证模型和跨领域研究。

3. 去中心化应用的兴起

• 去中心化技术的影响：如IPFS、DTube、Blockstack等平台正在挑战传统中心化服务，但其匿名性和不可删除性也带来了安全风险。
• 假消息传播的新空间：去中心化平台可能成为假消息的新温床，因其缺乏集中监管机制。

4. 政策建议

• 加强AI与反假消息研究：欧盟和美国应投入资金研究AI在信息战中的应用，而非仅关注健康、农业等其他领域。
• 监管去中心化应用：政府应与私营部门合作，确保新兴平台不会被滥用，特别是在安全和隐私方面。
• 推动数字广告改革：提高广告透明度，限制数据挖掘和精准投放，防止假消息利用广告系统进行扩散。

结论

面对由人工智能和去中心化技术引发的假消息危机，政府、企业和社会必须迅速采取行动，将技术研究与反假消息策略相结合，从“后端”入手，构建更全面的监管与应对机制。否则，现有的政策将无法应对未来的虚假信息挑战。