国际战略研究中心-面对风险：第1部分：绘制人脸识别技术应用中的人权风险图（英）-2021.7-48页_924kb

总结：面对面部识别技术（FRT）开发中的风险

核心内容

本报告由CSIS（战略与国际研究中心）发布，旨在分析面部识别技术（FRT）开发过程中涉及的人权风险，并提出企业应采取的措施以减少这些风险。报告围绕FRT开发的三个主要阶段：训练数据收集、算法开发和软件集成，探讨了不同参与方在这些阶段中对人权的影响，并提出了相应的建议。

主要观点

1. FRT开发的三个阶段及其人权风险

• 训练数据收集：数据收集者负责获取、标记和整理用于训练FRT系统的面部图像。若数据来源不透明或未经同意，可能侵犯个人隐私权。此外，若数据集的人口构成不均衡，可能导致歧视性影响。
• 算法开发：开发者使用神经网络架构和训练数据构建算法。若训练数据缺乏代表性或未充分测试，可能导致系统在某些群体中出现高误识率，从而影响非歧视权。
• 软件集成：集成者将训练好的模型嵌入应用或平台，并将其出售给最终用户。集成者的选择会影响系统在实际部署中的人权影响，包括隐私、非歧视和有效补救权。

2. 三种常见的FRT开发模式

• 端到端提供商：一家公司负责整个FRT开发流程，直接向运营商提供系统。
• 面部识别即服务（FRaaS）：一家公司开发FRT系统并通过云服务提供给其他用户。
• OEM（原始设备制造商）模式：算法开发者将技术出售给第三方，后者将其整合到自身产品中。

3. 人权影响及应对措施

报告指出，FRT开发涉及多种基本人权，包括：

• 隐私权：训练数据收集和系统部署过程中可能侵犯隐私。
• 非歧视权：系统在不同群体中表现不一致，可能造成不公平对待。
• 有效补救权：个体可能无法得知其数据是否被用于训练，或无法请求删除。
• 其他基本权利：如言论自由、集会自由、人身自由等，也可能受到FRT部署的影响。

关键信息

企业建议

通用建议

1. 制定明确的人权政策声明。
2. 评估产品和服务对人权的影响。
3. 将影响评估纳入决策过程。
4. 跟踪风险缓解措施的效果。
5. 与利益相关者沟通影响缓解措施。
6. 提供补救途径。

训练数据收集者

1. 与算法开发者共享数据来源和人口构成信息。
2. 评估隐私影响并建立数据安全政策。
3. 提供机制让个体了解其数据是否被用于训练，并请求删除。
4. 对潜在买家进行尽职调查，防止人权滥用。
5. 制定数据使用限制条款。
6. 保持透明并定期审计。

算法开发者

1. 确保训练数据具有代表性，避免偏见。
2. 严格测试模型性能，识别潜在歧视。
3. 对软件集成商进行尽职调查，并在合同中加入限制条款。
4. 与算法开发者沟通人权政策。

软件集成商

1. 测试外部模型的准确性与偏见。
2. 建立内部机制识别和报告人权风险。
3. 设立外部顾问小组评估产品风险。
4. 遵循隐私设计原则。
5. 对客户进行尽职调查。
6. 制定机制监控客户使用方式。
7. 提供可访问的人权培训。
8. 保持透明并定期审计。

行业与政府行动建议

• 提高准确性与消除偏见：通过透明度要求、认证机构和统一测试标准，促进公平竞争。
• 隐私、通知与知情同意：建立清晰的法律框架，确保个体对数据收集有知情权和控制权。
• 人权尽职调查：政府应为集成商提供明确的尽职调查指导。
• 有效补救机制：确保个体能够获得补救途径，并有相应的执法保障。

结论

FRT技术的快速发展带来了显著的人权挑战。报告强调，企业应主动采取措施，确保其技术开发和部署符合国际人权标准。同时，政府和行业联盟也需推动更严格的人权保障机制，以应对FRT技术带来的潜在风险。