【新美国安全中心】2024年面向未来的前沿AI监管：前沿AI模型未来算力预测报告

前沿AI监管与未来发展趋势总结

核心内容

本文探讨了未来十年内前沿AI模型的发展趋势，特别关注计算和成本的增长，以及这些趋势如何影响AI的可访问性和扩散速度。文章强调，政策制定者需要提前建立监管框架，以应对AI技术的快速发展和潜在风险。

主要观点

• 计算和成本增长：前沿AI模型的训练计算和成本预计将持续增长，但随着成本接近私营公司的支出极限，增长速度可能放缓。
• 有效计算：算法效率的提升将显著增加有效计算量，从而在一定程度上抵消硬件成本的增长。
• 扩散速度：随着成本的下降，越来越多的参与者将能够训练具有相似能力的模型，从而促进AI技术的扩散。
• 出口管制的影响：美国对先进AI芯片的出口管制可能显著增加中国等国家的训练成本，但不会完全阻止其发展。
• 政策制定的重要性：政策制定者需要考虑AI发展的不同情景，以制定有效的监管框架，防止AI技术被用于有害用途。

关键信息

1. 成本和计算预测

• 到2024年，训练前沿AI模型的成本预计为2.8亿美元，计算量为2.3×10²⁶ FLOP，约为GPT-4的10倍。
• 到2027年，训练成本预计为36亿美元，计算量为8.0×10²⁷ FLOP，约为GPT-4的380倍。
• 到2030年，训练成本预计为500亿美元，计算量为2.8×10²⁹ FLOP，约为GPT-4的13,000倍。
• 到2033年，训练成本预计为6000亿美元，计算量为1.0×10³¹ FLOP，约为GPT-4的500,000倍。
• 到2036年，训练成本预计为8万亿美元，计算量为3.5×10³² FLOP，约为GPT-4的1700万倍。

2. 成本增长限制

• 私营公司的年度培训支出可能达到数百亿美元，而政府的支出能力可能更大，达到数千亿美元甚至更高。
• 成本增长可能在2020年代后期达到私营公司的历史极限，并可能在2030年代中期开始转移至政府主导的领域。

3. 硬件改进的限制

• GPU的性价比每2.1年翻一番，但随着物理极限的接近，这一趋势可能在2027年至2035年间减缓甚至停止。
• 硬件改进的减缓将影响计算增长，但算法效率的提升可以部分抵消这一影响。

4. 扩散

• 随着训练成本的下降，AI能力将迅速扩散，更多参与者将能够训练具有相似性能的模型。
• 一些AI实验室已经开始限制模型的发布，这可能减缓扩散速度，但开源社区可能通过使用较小的模型和算法改进促进扩散。

5. 硬件受限行为者的成本

• 出口管制等措施可能显著增加硬件受限行为者的训练成本，例如中国可能面临较高的成本，但不会完全阻止其发展。
• 硬件受限行为者的成本增长将影响其在AI前沿的竞争力，但算法效率的提升可能帮助其弥补这一差距。

6. 计算监管阈值

• 计算作为训练前沿AI模型的重要输入，其增长趋势对AI的可访问性和扩散速度具有重要影响。
• 随着计算增长放缓，监管措施可能变得更加重要，以控制AI技术的扩散和潜在风险。

结论

本文指出，尽管AI技术的快速发展可能带来巨大的潜力，但同时也伴随着显著的风险。政策制定者需要提前制定监管框架，以确保AI技术的安全和稳定发展，同时促进其在有益领域的应用。计算和成本的增长趋势是影响AI发展的关键因素，而算法效率的提升将有助于降低这些成本，促进技术的扩散。