牛津大学：AI_超越人类编年史（英文版）_22页-1mb

报告摘要

文档总结

核心内容

本研究通过一项针对机器学习研究人员的大规模调查，探讨了人工智能（AI）在未来何时可能超越人类表现，并分析了不同地区研究人员对AI发展的预测差异。研究还涉及AI对社会和经济的影响，以及AI安全研究的优先级问题。

主要观点

AI发展预测
- 研究人员预测AI将在未来十年内超越人类在多个领域的表现，例如语言翻译（2024年）、高中作文写作（2026年）、卡车驾驶（2027年）、零售工作（2031年）等。
- 对于所有任务全面超越人类表现（HLMI），研究人员预测有50%的几率在45年内实现，10%的几率在9年内实现。
- 对于所有人类工作的自动化，预测有50%的几率在122年内实现，10%的几率在20年内实现。
- 亚洲研究人员普遍比北美研究人员更乐观，预期HLMI和自动化将更快到来。
AI发展速度
- 研究人员普遍认为，AI领域的发展速度在职业生涯的后半段会加快。67%的受访者认为后半段发展更快，而只有10%认为前半段更快。
- 这种加速可能引发“智能爆炸”现象，即AI在达到HLMI后迅速超越人类，但这一可能性被评估为中等偏低（中位数为10%）。
AI对社会的影响
- 研究人员认为HLMI可能带来积极影响，但也可能产生灾难性后果。其中，50%的受访者认为HLMI对人类有积极影响，而10%认为其会导致极端负面结果（如人类灭绝）。
- 48%的受访者认为社会应优先进行AI安全研究，以减少潜在风险。
调查方法与样本代表性
- 调查对象为2015年NIPS和ICML会议的发表者，共352人（占总联系人数的21%）。
- 调查结果表明，样本在性别、国家和职业分布上与非受访者无显著差异，因此认为样本具有代表性。
- 调查中使用了两种不同的预测框架：“固定概率”和“固定年份”，并发现不同框架下的预测结果存在差异。

关键信息

HLMI定义：当机器能够比人类更高效地完成所有任务时，即为“高阶机器智能”。
预测结果：
- HLMI：50%几率在45年内实现，10%几率在9年内实现。
- 全面自动化：50%几率在122年内实现，10%几率在20年内实现。
地区差异：
- 亚洲受访者预计HLMI将在30年内实现，而北美受访者预计为74年。
- 亚洲受访者预计所有职业的自动化将比北美早约44年。
调查样本：
- 82%的受访者在学术界工作，21%在工业界。
- 406名受访者和399名非受访者的数据被收集，用于分析样本的代表性。
AI里程碑：
- 调查中涉及32个AI里程碑，其中20个预计将在未来十年内实现。
- 这些里程碑包括语言翻译、游戏对弈、图像识别等任务，要求AI达到或超越专家水平。