下一次大分流_为何人工智能可能加剧国别间的不平等_213页_4mb

总结：THE NEXT GREAT DIVERGENCE – Why AI may widen inequality between countries

核心内容

《THE NEXT GREAT DIVERGENCE》是一份由联合国开发计划署（UNDP）发布的背景报告，探讨人工智能（AI）如何可能加剧国家间和国家内部的不平等。报告由九篇独立专家撰写的背景论文组成，分析了AI在促进人类发展和社会包容方面的潜力，同时也指出了其在数据获取、算法偏见、基础设施和技术应用上的风险。

主要观点

AI的潜力与挑战

AI能够通过预测技术提升社会福祉，例如在医疗、农业、金融和交通等领域。然而，其应用也可能导致“算法性排斥”，特别是在缺乏数据和基础设施的地区，弱势群体如女性、非正式工人、流离失所者和农村居民可能被排除在AI系统之外。

数据与技术的不平等

AI依赖于高质量、全面的数据进行训练，而这些数据在许多国家仍不完整。缺乏数据代表性的AI系统可能加剧现有的经济和社会不平等。例如，AI在医疗诊断中的应用若未涵盖农村人口，将影响其诊断效果，进而扩大医疗资源分配的不平等。

数字基础设施的重要性

报告指出，AI的全面应用需要强大的数字基础设施。在亚太地区，许多国家已经建立了全国身份证系统，但这些系统在数据整合和覆盖范围上仍存在差异。例如，菲律宾和印度的系统基于MOSIP平台，而日本的My Number Card需要物理办公地点进行更新，这可能对行动不便者构成障碍。

金融包容与AI

AI在金融领域的应用，如信用评分和贷款审批，依赖于准确的个人数据。然而，若数据不完整或存在偏见，AI系统可能不公平地影响某些群体。报告提到，通过使用替代数据点（如水电费、移动支付记录）来构建信用档案，有助于提升金融包容性，但必须确保数据隐私和公平性。

医疗AI的机遇与限制

AI在医疗领域的应用，如用于诊断糖尿病视网膜病变的设备，可以显著降低诊断成本并提高可及性。然而，这类设备仅适用于已知患有糖尿病的患者，且其训练数据往往来自发达国家，可能无法准确适用于亚太地区的广泛人群。因此，AI的广泛应用仍需与基础医疗体系相结合。

关键信息

数据沙漠与算法排斥

• 数据沙漠：指缺乏数据覆盖的地区，使得AI系统无法有效服务这些人群。
• 算法排斥：由于数据不完整或偏见，AI系统可能无意中排除某些社会群体，加剧不平等。

国家身份证系统的作用

• 亚太多国已建立全国身份证系统，如印度的Aadhaar、中国的居民身份证、菲律宾的PhilSys ID等。
• 这些系统通常包含生物识别数据，有助于构建全面的数字档案，但也可能带来隐私和数据安全风险。

金融包容的AI应用

• AI可以基于替代数据点（如在线购物行为、卫星图像等）评估信用风险，提升贷款审批效率。
• 但若缺乏数据完整性，AI可能无法准确评估风险，导致对弱势群体的不公平待遇。

医疗AI的现状与挑战

• AI在医疗诊断中的应用，如糖尿病视网膜病变检测，可以快速、低成本地进行筛查。
• 然而，这类AI设备的训练数据往往来自发达国家，缺乏对亚太地区人群的代表性，可能导致诊断结果不准确。

数据治理的多样性

• 不同国家在数据治理方面采取了不同的策略。一些国家采用基于风险的框架，而另一些则更注重发展导向，但缺乏对算法偏见和排斥的有效防范。

政策建议

• 短期：各国应利用AI降低预测成本，提高人类福祉。
• 长期：应重新组织工业生产以适应AI技术，但需加强数字基础设施建设。
• 数据代表性：确保AI系统涵盖所有社会群体，避免算法性排斥。
• 数据隐私：在部署AI时需考虑隐私保护，防止数据被滥用。
• 包容性设计：AI系统应考虑不同群体的需求，特别是在医疗和金融领域。

结论

AI有潜力推动亚太地区的人类发展，但其应用可能加剧不平等。为实现包容性增长，各国需在推动AI技术的同时，确保数据的广泛代表性、基础设施的完善以及隐私保护机制的建立。此外，AI的部署应通过广泛的公众参与和咨询，以平衡技术进步与社会公平。