世界经济论坛-一代人工智能为儿童和人工智能建立全球标准（英文）-2019.9-18页_5mb

生成AI：建立全球儿童与AI的标准

核心内容

2019年5月6日至7日，世界经济论坛的“第四次工业革命中心”与联合国儿童基金会（UNICEF）和加拿大高级研究机构（CIFAR）联合在旧金山举办了一场关于“生成AI”倡议的研讨会。会议旨在探讨如何通过多利益相关方合作，制定政策以确保AI技术在儿童领域的应用能够促进其发展，同时减少潜在风险。

主要观点

1. 儿童权利与AI发展

• 儿童在不同年龄段具有不同的脆弱性和发展机会，因此不能采用单一的政策框架。
• AI技术可以增强儿童的学习和成长，但其设计和使用必须考虑儿童的自主权与隐私权。
• 需要将儿童权利纳入AI政策制定的核心，以确保其在数字环境中的健康成长。

2. 企业治理与AI设计

• 企业应建立专门的团队和流程，以支持儿童与AI相关的决策。
• 需要制定一个以儿童为中心的AI产品设计准则，涵盖对儿童的反馈、潜在危害分析以及对发展科学的考量。
• 引入伦理审查委员会，确保AI产品的开发符合道德和法律标准。

3. 公共政策与AI监管

• 当前的消费者保护法规可能无法适应AI在数字平台上的新角色，尤其是儿童既是消费者又是内容创造者。
• 政策制定应考虑儿童的多维角色，包括其作为内容生产者和广告者的身份。
• 政策应注重促进儿童的积极互动，而非单纯限制其使用。

4. 隐私权与数据使用

• 隐私权在儿童与AI的互动中具有优先地位，需在不同利益之间进行权衡。
• 家长在数据使用中的角色需从发展角度重新审视，特别是进入青春期后，儿童应获得更多的数据自主权。
• 需要确保数据收集和使用过程透明，并避免对儿童表达自由造成压制。

5. 算法优化与儿童学习

• 算法应以促进儿童学习和成长为目标，而非仅追求短期利益。
• 儿童的学习方式，如好奇心和探索能力，可以为算法设计提供灵感。
• 企业应推动算法向教育和发展导向转变，以提升AI的社会价值。

6. 公共教育与文化影响

• 需要通过积极的媒体信息引导儿童正确看待AI。
• 儿童更倾向于接受同龄人传递的信息，因此应利用青少年影响力传播正面内容。
• 家长也需要接受AI相关的教育，以更好地理解并支持孩子的数字成长。

关键信息

• 研讨会提出了两个主要成果：公共政策指南和企业治理宪章，以指导各国和企业如何在AI应用中保护儿童权利。
• 企业应考虑儿童的长期发展利益，而不仅仅是商业收益。
• 隐私、算法设计、儿童权利和文化规范是AI与儿童互动中的核心议题。
• 政策制定需融合发展科学、伦理审查和多方利益相关者的参与，以确保AI技术的公平性和可持续性。

结论

此次研讨会强调了AI在儿童成长中的双重作用：既有可能成为促进发展的工具，也可能带来新的风险。因此，制定基于儿童权利的全球标准，是确保AI技术在儿童领域负责任使用的关键。通过跨学科合作、政策引导和企业责任，可以为儿童创造一个更安全、更具支持性的数字环境。