Top开源大模型安全测评报告_2024_-27页_2mb

本报告《Top开源大模型安全测评报告(2024)》由多家机构联合发布，旨在评估开源大模型在国家安全、道德伦理等12个安全风险维度的表现，促进人工智能大模型向负责任的目标发展。测评覆盖12个模型和20个版本，揭示了大模型存在一定安全风险。总体上，国内开源大模型安全性优于国外模型，公共安全、道德伦理、不良信息和网络安全风险最为突出。典型问题包括易被指令攻击导致有害输出，以及在恶意内容生成方面的不足。建议加强安全伦理准则、增加研发投入和严格应用审核，共同推动AI安全治理。报告强调，由于模型迭代快，结果需谨慎参考。

（字数：456）