国际战略研究中心-面对风险：第2部分：绘制人脸识别技术应用中的人权风险图（英）-2021.7-72页_1mb

总结：Facing the Risk - Mapping the Human Rights Risks in the Deployment of Facial Recognition Technology

核心内容

本报告由CSIS战略技术计划和人权倡议共同发布，旨在分析面部识别技术（FRT）在全球部署过程中对基本人权和自由可能产生的影响。报告指出，FRT在多个领域被广泛应用，包括执法、边境控制、身份验证、访问管理和私人安保，但其使用也伴随着重大人权风险。

主要观点

• FRT的两种主要用途：验证（1:1匹配）和识别（1:N匹配），前者用于确认个人身份，后者用于从数据库中匹配目标个体。
• 技术风险：FRT具有远程识别和监控的能力，可能侵犯隐私权、言论自由、集会自由、结社自由、不受任意逮捕的权利、非歧视权、有效救济权、宗教自由、自由迁徙权、儿童权利、生命权、自由权和安全权、适当生活水准权、土地所有权权、社会保障权以及公正的工作条件权。
• 技术偏差：多数FRT系统在不同人口群体中的准确率存在差异，可能造成系统性歧视。
• 法律与人权考量：FRT的使用应遵循法律依据、必要性、合法性、比例性和问责原则，以确保其不侵犯基本人权。
• 治理需求：需建立清晰的法律和监管框架，规范FRT的使用，加强透明度、问责机制和独立监督。

关键信息

一、FRT的使用场景

1. 执法

   • 实时监控（Live Monitoring）：通过摄像头实时比对人员与监控名单，用于识别嫌疑人或跟踪特定人群。
   • 回溯识别（Retroactive Identification）：用于犯罪调查、识别失踪人员或已故个体。

2. 边境控制

   • 政府利用FRT提高边境管理效率和安全性，但也可能侵犯隐私，甚至用于监控移民和难民。

3. 身份验证

   • 用于验证个人身份，如解锁手机、登录银行应用或通过机场安检，但可能因数据滥用或错误导致服务受限。

4. 访问管理

   • 用于自动化授权进入受限区域、考勤管理及人员追踪，可能泄露敏感信息，尤其在校园部署中影响儿童权利。

5. 私人安保

   • 用于零售、活动场所和住宅区的安全监控，可能造成隐私侵犯和自由受限，甚至被用于非法歧视。

二、FRT对人权的影响

• 隐私权：FRT可被用于远程识别和持续监控，可能形成大规模数据库，侵犯个人隐私。
• 言论自由、集会自由和结社自由：政府可能利用FRT识别异议人士，导致自我审查和自由受限。
• 不受任意逮捕和拘留的权利：高误判率可能导致无辜者被错误拘留。
• 非歧视权：FRT在不同群体中的准确率差异可能加剧系统性歧视。
• 有效救济权：缺乏透明度和问责机制可能使受FRT影响的个人无法寻求法律救济。
• 宗教自由：FRT可能被用于强制剃须或移除头面遮盖，侵犯宗教实践自由。
• 自由迁徙权：FRT可能被用于非法限制个人行动自由，或因担忧监控而造成自我回避。
• 儿童权利：FRT在识别失踪儿童和打击人口贩卖方面有积极作用，但也可能因纳入儿童监控名单而侵犯其权利。
• 生命权、自由权和安全权：FRT可用于抓捕罪犯、加强边境安全，但需符合必要性和比例性原则。
• 适当生活水准权：FRT可能影响人们获得基本服务的权利，如因误判而无法进入商店。
• 土地所有权权：FRT可用于促进土地登记和管理，提高交易效率。
• 社会保障权：FRT可用于验证福利领取者身份，但需防止误判导致权益剥夺。
• 公正工作条件权：FRT可用于监督危险工作环境，但也可能扩大职场监控，侵犯隐私。

三、FRT与人权法的契合

• 合法性：FRT的使用必须有明确法律依据，并接受民主监督。
• 必要性：必须证明FRT是实现目标的唯一或最不侵扰的方式。
• 合法性与正当性：FRT的使用应基于合法且正当的目的，如国家安全、公共秩序或保护他人权利。
• 比例性：FRT的部署应与目标和风险相称，避免过度监控。

四、建议

对操作者的建议

1. 进行人权影响评估（HRIA）。
2. 建立机制识别和处理人权问题。
3. 严格测试系统以确保准确性与非歧视性。
4. 制定问责政策，确保合规。
5. 提供权利受侵害者寻求救济的机会。

对政策制定者的建议

1. 明确FRT的非法用途。
2. 设定FRT使用的基础法律。
3. 推动统一的准确性和非歧视标准。
4. 确保受影响个体获得救济。
5. 建立严格的隐私和数据保护法规。
6. 为私营部门制定人权尽职调查框架。
7. 建立执法能力以监督合规情况，设立违规处罚机制。

对政府操作者的建议

1. 要求公共机构在使用FRT前进行人权影响评估。
2. 建立独立监督机制。
3. 确保执法中FRT的使用由独立司法机构监督。
4. 明确FRT证据在法庭中的使用方式。
5. 要求使用前进行场景测试以评估实际表现和风险。
6. 政府操作者需遵守上述操作规则。
7. 公开FRT相关政策与程序。
8. 限制政府机构间及与私营部门的数据共享。
9. 为政府提供技术能力建设资源。

结论

FRT在提升安全与效率方面有潜力，但其部署必须严格遵守人权法原则，以防止对基本权利和自由的侵害。报告呼吁建立全面的法律与监管框架，确保FRT的使用符合人权标准，并推动透明、问责和独立监督机制的实施。