2024-03-10-语势科技-语势主题观察_大模型的关注点转换了_6页_754kb

报告内容总结

主题： 大模型关注点转换至网络安全、地缘政治和信息操纵。

• 核心事件： 微软和 OpenAI 发研究报告，显示黑客利用 ChatGPT 等大型语言模型（LLM）进行网络攻击改进、社交工程和技术研究。涉及组织包括俄罗斯、朝鲜、伊朗和中国支持的实体。
• 当前状况： AI 攻击虽尚未经常见，但风险上升，例如语音冒充等新案例。微软呼吁 AI 应对 AI 攻击，并推出 SecurityCopilot，一款为网络安全专业人士设计的 AI 工具。
• 历史背景： ChatGPT 等技术从 2023 年起被用于科技创新应用，同时也被卷入军事冲突（如以色列战争），导致信息战被动，金融市场假信息引发监管关注。
• 地缘政治影响： 2024 年选举面临 AI 相关威胁，20% 国家受高干扰风险，中美等国成焦点。AI 用于信息操纵，地缘博弈加剧，生成式 AI 成为叙事战工具。
• 全球响应： 中国、印度、日本和沙特推动本土化 GPT 落地，避免简单复制 OpenAI，强调数字基础设施安全。
• 贸易与法律： 美国加强 AI 算力、内容和数据限制，防范输出控制；多起诉讼事件（如马斯克起诉 OpenAI）凸显 AI 争议。
• 中国策略： 注重本土 AI 应用迭代和安全保障，避免依赖外部技术，致力于扩大影响力，视 AI 为服务人类的工具而非替代品。

结论： 大模型技术普及加速，但也伴随风险和分裂趋势，需要国际合作与监管来应对潜在威胁，保护国家安全和信息完整性。