人工智能行业从承诺到实践_选举管理中的人工智能_英译中_52页_1mb

人工智能在选举管理中的应用：从承诺到实践

核心内容

本技术资源由联合国政治事务与和平建设部（DPPA）选举援助司（EAD）与联合国开发计划署（UNDP）联合发布，旨在为选举管理机构（EMBs）提供一个负责任、透明且包容性的人工智能应用框架。该资源强调人工智能在提升选举可信度、效率和包容性方面的重要作用，同时指出其潜在风险，并提出系统性应对策略。

主要观点

• 人工智能并非新生事物：生物识别、选票读取和注册数据库中的模式识别等技术已被广泛使用多年。
• 人工智能具有潜力但非完美：其应用存在可靠性、透明度、隐私和偏见等问题，尤其在生成式AI和大型语言模型（LLMs）中更为明显。
• 政治共识与透明治理是关键：人工智能在选举中的应用需要政治支持、公众信任、透明度和问责机制，以确保其不会损害基本权利。
• 包容性必须是核心考量：人工智能系统的设计、开发和部署应考虑到社会多样性，确保所有群体都能公平受益，避免数据和设计中的偏见。
• 数据治理是基础：数据的质量、安全性和合规性对于人工智能在选举中的有效和负责任使用至关重要。
• 技术采用需结构化方法：从理解现状、规划、变革到交付，需系统性地推进人工智能在选举中的应用。
• 安全与隐私是重点：人工智能系统的部署应确保数据安全、隐私保护和防止滥用，同时建立透明机制以增强公众信任。

关键信息

• 人工智能应用领域：

  • 分析：用于实时数据处理、异常检测和资源优化。
  • 认可：包括生物识别技术、选票读取和身份验证。
  • 自动化：用于处理和生成大量数据，提高效率。
  • 创造：如外联内容生成、软件开发和多语言支持。
  • 选民沟通：通过聊天机器人等工具，提升选民参与度。

• 全球数字契约（GDC）的作用：

  • 强调以人为本、透明、可问责的数字技术方法。
  • 包含关于数据治理、数字基础设施、隐私保护和开放数据的承诺。
  • 为人工智能在选举中的应用提供了法律与伦理指导。

• 人工智能的三大偏见来源：

  • 数据：训练数据集可能包含偏见或不完整信息。
  • 设计：系统构建时的决策可能嵌入特定价值观或限制。
  • 部署：系统在实际运行中的使用方式可能影响其结果。

• 人工智能采用的关键原则：

  • 人类监督：确保人工智能决策的可解释性和可问责性。
  • 透明度：确保系统运行和决策过程对公众可见。
  • 隐私保护：防止数据滥用，确保数据处理符合国际标准。
  • 包容性：确保所有社会群体都能公平使用和受益于人工智能技术。
  • 可靠性：确保系统在选举过程中稳定运行，减少错误风险。

人工智能在选举中的关键特征

关于本出版物

• 本出版物是联合国开发计划署（UNDP）和选举援助司（EAD）联合发布的，旨在帮助EMBs在采用人工智能时进行负责任的规划和实施。
• 重点探讨了人工智能在选举管理中的潜力、挑战和应对方法。
• 为EMBs提供了一个全面的框架，涵盖人工智能的使用方法、应用场景、数据治理和隐私保护。

实践应用

• 人工智能用于分析：例如选民登记中心的监控和异常检测。
• 人工智能用于认可：如生物识别技术，确保选民身份准确无误。
• 人工智能用于自动化：如处理选票和结果，提高效率。
• 人工智能用于创造：如外联内容生成、软件开发和多语言支持。
• 人工智能用于选民沟通：如聊天机器人，提升选民参与度。

数据治理与隐私保护

• 数据质量是人工智能可靠性的基础。
• 必须遵循比例原则、知情同意和数据保护实践。
• 需要建立安全、可靠且透明的数据治理框架，以防止数据滥用和隐私侵犯。

技术考量与实施

• EMBs在获取和使用人工智能技术时，需考虑技术能力、数据可用性、资金、时间表和人类监督。
• 采用开源方法和开放标准有助于提升互操作性和透明度。
• 人工智能的部署需要考虑网络安全、隐私保护和数据治理，确保系统安全可靠。

人类监督与责任

• 人类监督在人工智能应用中不可或缺，尤其是在涉及公众信任和基本权利时。
• 人类监督应包括审查、阈值设定和关键决策点的人工批准。
• 需要建立透明机制，防止人工智能的偏见和错误对选举结果造成影响。

结论

人工智能在选举管理中的应用具有巨大潜力，但也伴随着复杂的挑战。为了确保其负责任使用，需要建立全面的框架，涵盖技术、数据、治理、隐私和人类监督等多个方面。该技术资源强调，人工智能应被视为机构数字化转型的一部分，而非孤立的技术选择，其成功依赖于政治共识、技术能力、数据治理和包容性设计的结合。