北大国际战略研究院-[Issue-40]-Disinformation-Wars_6页_335kb

假消息之战总结

核心内容

随着人工智能、去中心化应用等新技术的发展，虚假信息的生成与传播变得更加复杂和难以监管。本文指出，当前欧美在应对虚假信息方面准备不足，需要政府与企业加强合作，以应对未来可能更加严重的“深度假象”浪潮。

主要观点

• 技术进步快于政策制定：人工智能和去中心化技术的快速发展使得传统反假消息措施难以应对新的威胁。
• 深度假象的兴起：利用AI和生成式对抗网络（GANs）技术，任何人都可以制作高度逼真的假图像、音频和视频，使得虚假信息更难被识别。
• 社交媒体与搜索引擎的漏洞：Facebook、Twitter、Google等平台的算法和设计存在缺陷，容易被用于传播假消息和极端内容。
• 去中心化应用的双刃剑效应：虽然去中心化技术为隐私和自由提供了新的可能性，但也为假消息和恶意行为提供了新的传播渠道，难以被监管。
• 需要关注“后端”基础设施：当前反假消息的努力多集中在内容层面，忽视了支撑虚假信息传播的广告市场、数据经纪和SEO操控等行业。
• 政策与技术结合的重要性：政府和企业必须合作，将反假消息措施与技术研究结合，以应对未来的挑战。

关键信息

人工智能的民主化与风险

• 人工智能技术正变得越来越普及，普通人也能使用尖端工具制作深度伪造内容。
• 工具如FakeApp和Lyrebird使得伪造视频和音频变得极其容易。
• 生成式对抗网络（GANs）使得伪造内容更难被检测，因为算法在训练过程中不断优化欺骗能力。

社交平台的挑战

• Facebook：尽管尝试引入“有争议的标志”和广告审查机制，但假消息仍然广泛传播，用户互动反而增加。
• Twitter：平台上的账号缺乏验证，API机制使得错误信息容易扩散，且难以追踪来源。
• Google：其搜索算法倾向于优先展示观看时间多的内容，导致极端和虚假信息更容易被用户接触到。

去中心化应用（DApps）的兴起

• 区块链和分布式账本技术正在改变互联网结构，去中心化应用逐渐替代传统平台。
• 去中心化应用提供了更高的隐私和安全性，但也让监管变得更加困难。
• 信息一旦发布，几乎无法删除，这对假消息的控制提出了严峻挑战。

假消息的“后端”问题

• 假消息的传播不仅依赖内容，还依赖背后的广告市场、数据经纪和SEO操控行业。
• 这些行业为假消息提供了精准投放和广泛传播的能力，目前缺乏有效的监管和透明度。

政策建议

1. 加强人工智能与反假消息的结合：欧盟和美国应投入资金，研究人工智能在信息战中的应用，防止其被滥用。
2. 监管去中心化应用：政府应提前介入，建立公私合作机制，防止这些平台被用于传播假消息。
3. 推动数字广告透明化：立法者应推动广告行业的改革，确保数据使用透明，防止假消息精准投放。

结论

当前欧美在应对虚假信息方面已采取初步措施，但这些措施远远落后于技术发展。面对人工智能和去中心化应用带来的新挑战，政府和企业必须协同合作，从技术研究、平台设计和广告监管等多个层面入手，以有效遏制虚假信息的扩散。