20231016-世界经济论坛-Data_Equity_Foundational_Concepts_for_Generative_AI_19页_4mb

数据公平性报告摘要

引言与背景

• 生成式人工智能(GenAI)（如ChatGPT， Bard等）快速发展，但也带来了独特挑战，如数据偏见。
• 数据公平指技术系统对所有人公平，包含正义、无歧视、透明度和包容性原则。
• 需在整个AI开发周期中主动干预以确保公平性。

数据公平性类别

• 代表性公平性：确保历史上的弱势群体在数据集中可见。
• 结果公平性：确保模型输出公平；需警惕算法的意外后果。
• 访问公平性：确保数据和工具的平等可及；区分数字鸿沟。
• 功能公平性：准确描述具有特征的数据。

数据生命周期视角下的数据公平性

• 阶段1：数据收集：关注数据的代表性与准确性。
• 阶段2：算法设计：引入公平、透明的算法设计。
• 阶段3：输出数据：确保输出数据对所有用户公平。

基础模型中的数据公平性挑战

• 问题：训练数据偏见大，缺乏多样性，全球视角有限。
• 技术困难：大规模数据溯源难，模型不透明，持续训练使数据正面或负面变化。

利益相关者参与

• 目前存在的利益相关者：AI开发者、使用者、政策制定者等。
• 公众、公民社会、国际组织可以辅助推广参与和监管。

讨论

• 强调技术的局限性，防止"全能技术"误解。
• 讨论对现有偏见的制度挖掘问题。
• 探索古典和生成式AI之间的应用边界，防止滥用。

结论与倡议

• 数据公平在GenAI发展中至关重要。
• 需通过预定义原则、公用研究沙盒、跨学科对话等方式推进。
• 世界经济论坛将推动数据公平对话。

参与者

• 全球未来理事会：协调跨领域专家，促进公平数据发展。
• 贡献者列表：列出学术、政策界和私营企业的专家。

展望

• 通过全球合作，推动公平AI技术发展，支持弱小群体。
• 整合公平原则到整个AI技术发展中。