兰德-人工智能生成图像的危害分析与网络真实性保护（英）-2024.3-20页_163kb

AI生成图像的民主化在缺乏监管的情况下，放大了互联网上原有的危害。这类技术包括生成对抗网络（GANs）和扩散模型，能够创建逼真的合成图像，可能导致虚假信息、性化偏见、非自愿亲密图像（NCII）等问题。行业解决方案如水印、哈希和来源元数据旨在提升透明度，但面临技术挑战和隐私风险。政策方面，建议美国国家标准与技术研究院（NIST）制定标准，并加强机构合作以促进真实性。总之，通过技术与政策相结合，减少AI生成图像的负面影响，是保障网络信任的关键。