世界经济论坛-一代人工智能为儿童和人工智能建立全球标准（英文）-2019.9-18页_6mb

生成式AI与儿童权利全球标准建立总结

核心内容

本总结基于2019年5月6日至7日，世界经济论坛“第四次工业革命中心”与联合国儿童基金会（UNICEF）及加拿大高级研究所（CIFAR）在旧金山举办的“Generation AI”研讨会内容。该研讨会旨在探讨如何通过多利益相关方合作，建立AI技术与儿童权利之间的全球标准，确保AI的发展既能促进儿童成长，又能减少潜在危害。

主要观点

1. 儿童权利与AI发展

• AI技术对儿童的成长具有深远影响，因此必须在政策和设计中优先考虑儿童权利。
• 儿童在不同发展阶段具有不同的脆弱性和成长潜力，政策需根据这些特点进行差异化设计。
• 需要通过多学科视角（如媒体研究、发展心理学）来评估AI对儿童的影响。

2. 隐私保护

• 隐私是儿童与AI互动中的关键议题，需在数据收集与使用过程中权衡多方利益。
• 未成年人数据应被视为敏感信息，需建立专门机制以保护其隐私。
• 家长在儿童数据管理中的角色需重新审视，特别是在青少年阶段，应逐步赋予儿童数据自主权。
• 平台需限制对儿童的商业广告暴露，防止过度商业化影响其成长。

3. 算法设计与儿童学习

• 算法应优化以支持儿童的学习目标，引导其向积极的社会行为发展。
• 儿童具有高效的学习能力，AI系统应借鉴其学习方式，如好奇心和探索精神。
• 需要建立“学习模型”来评估AI产品对儿童发展的实际影响，并减少数据依赖。

4. 企业治理与责任

• 企业需建立专门的治理机制，包括伦理审查委员会和AI设计代码，以确保AI产品符合儿童利益。
• 企业应通过多利益相关方合作，提升AI产品对儿童发展的积极影响。
• 企业责任应从安全转向发展，促进AI从恐惧转向机会的转变。

5. 公众教育与意识提升

• 需要通过教育和媒体传播，帮助儿童和家长正确认识AI的潜力与风险。
• 利用同龄人影响力，建立青少年与家长之间的信息桥梁，促进理解与合作。
• 媒体应传播积极的AI信息，避免制造不必要的恐慌。

6. 消费者保护与儿童角色

• 儿童不仅是AI内容的消费者，也是创造者和广告商，需在政策中体现其多面角色。
• 消费者保护政策应适应儿童在数字环境中的新角色，鼓励其参与和自主性。
• 需要平衡保护与自主，避免过度限制影响儿童获取知识的机会。

7. 评估与审计机制

• 建立评估和审计机制是确保AI产品对儿童产生积极影响的重要手段。
• 评估应涵盖儿童的社交行为、情绪变化和学习模式，以提供准确的数据支持。
• 评估模型需具有灵活性，同时体现行业共识，以促进创新和标准化。

关键信息

• 政策指南：研讨会提出制定公共政策指南和企业治理章程，以指导各国和公司如何在AI发展中保护儿童权益。
• 数据治理：强调数据收集的伦理性和公平性，确保AI训练数据的代表性与多样性。
• 文化影响：指出AI设计需考虑文化规范，通过社区干预和教育引导改变儿童的行为模式。
• 责任与创新：鼓励企业通过“胡萝卜”而非“棒子”的方式推动责任行为，促进AI技术在儿童领域的可持续发展。

结构与成果

研讨会分为三个主要部分：儿童权利、企业治理和公共政策，每个部分均包含全体会议和小组讨论。

• 全体会议：通过“快闪演讲”激发讨论，聚焦儿童权利、隐私、算法设计等核心议题。
• 小组讨论：深入探讨具体问题，如数据隐私、算法优化、企业伦理审查等。
• 成果：提出两项主要成果——公共政策指南和企业治理章程，旨在为AI与儿童的互动提供系统性框架。

未来方向

• 推动建立“公共选项”以平衡市场与社会责任。
• 提升儿童作为利益相关方的参与度，使其在AI设计和政策制定中发声。
• 通过科学与政策结合，推动AI技术在儿童领域的健康发展。