2024年数字电网人工智能系统操作行为评估报告-南网能源院（李洁珊）-15页_5mb

数字电网人工智能系统操作行为评估总结

核心内容概述

本文档围绕人工智能在数字电网建设中的应用及其潜在风险展开讨论，提出了一套人工智能系统操作行为评估模型，涵盖多个关键维度。同时，结合联合国、OECD、欧盟、美国及中国等国际组织和国家的政策与实践，强调了人工智能治理的重要性，以确保其安全、可控、公平与可持续发展。

主要观点与关键信息

人工智能技术的双刃剑效应

• 人工智能在数字电网中具有巨大潜力，可用于电力系统的智能态势感知与智慧调度决策，降低运行波动性与不确定性。
• 然而，生成式人工智能由于其深度神经网络结构，存在可解释性不足、合成内容缺乏有效校验机制等问题，可能引发“幻觉”判断，影响电网运行的安全性。

人工智能风险治理的必要性

• 全球范围内已记录超过495起AI风险事件，如美国ChatGPT出售私人数据、俄罗斯国际象棋机器人伤人、杭州AI人脸互换侵权等，表明AI技术应用中存在系统性风险。
• 风险治理应聚焦于数据、模型、基准或评估等技术层面，同时需关注政策制定者的角色及政治风险。

国际治理框架与实践

• 联合国《Governing AI for Humanity》报告：强调团结科学家解决社会挑战，开展公平、准入和预防伤害等方面评估，推动全球AI生态系统的健康发展。
• 欧盟《人工智能法案》：提出通过标准化协议和工具进行模型评估，识别并降低系统性风险。
• 美国《国家人工智能研发战略计划》：主张利用标准和基准衡量评估AI系统，以提升其可靠性与易用性。
• 中国《全球人工智能治理倡议》：倡导构建开放、公正、有效的治理机制，推动人工智能技术造福人类，维护世界和平与安全。

企业实践与评估模型

• 企业应完善AI评估及决策容错机制，引入法学、哲学、管理学等多学科专家，提升外部监督水平。
• 通过技术创新加强个人隐私保护、算法可解释性与模型可靠性。
• 提出一套人工智能系统操作行为评估模型，包括以下评估维度：

风险应对建议

• 技术层面：提升算法可解释性、模型可靠性与数据安全，建立有效的风险校验与评估机制。
• 治理层面：推动国际合作，制定统一的AI标准与评估体系，确保技术发展与人类福祉相协调。
• 伦理与社会层面：关注AI对社会价值、群体均衡发展及人类情绪的影响，避免技术殖民与数字鸿沟问题。

一个值得思考的问题

• 前沿技术研究的意义：为应对全球重大挑战和人类社会可持续发展难题贡献力量，防止技术滥用，守护人类的和平与未来。

结语

人工智能技术在数字电网中的应用前景广阔，但其潜在风险不容忽视。通过科学的评估模型与全球协同治理，可以确保AI技术的安全、可控与公平使用，实现技术与人类社会的和谐共生。