兰德-即使是超级智能计算机也做不到的事情-识别通用人工智能基本限制的初步框架（英）-2025_19页_576kb

什么是超级智能计算机无法做到的事情：识别限制人工通用智能的基本框架

核心内容

本文探讨了人工通用智能（AGI）在实际应用中可能面临的根本性限制。尽管许多评论者认为AGI将对地缘政治产生巨大影响，但物理定律和理论数学的存在意味着即使是最强大的AGI也无法完成某些任务。作者提出了一种框架，用于评估特定技术、技能或能力是否在实践中可行，并以后量子密码学（PQC）为例，说明该框架的应用。

主要观点

1. AGI的潜力与限制并存

   • AGI可能具备发明新技术和大幅改进现有技术的能力，但也会受到物理定律和理论数学的限制。
   • 与“魔幻”技术不同，AGI无法突破物理和数学的基本规律，因此某些任务是不可行的。

2. 技术可行性评估框架

   • 该框架通过考虑热力学、信息理论和计算复杂性等基本限制，帮助政策制定者评估技术是否可行。
   • 技术可行性可划分为“肯定可行”、“可能可行”、“很可能不可行”和“肯定不可行”四个区域。

3. 物理定律与技术限制

   • 热力学定律（尤其是第二定律）限制了能量的使用和工作的完成。
   • 信息理论指出，信息的传递有其物理边界，无法通过算法增强不存在的信息。
   • 计算复杂性表明，某些问题（如NP难问题）无法在合理时间内解决，除非有高效的算法。

4. 量子计算与密码学的互动

   • 量子计算机能够显著改变计算复杂性的限制，例如通过Shor算法破解RSA加密。
   • 然而，目前尚无实际可行的量子计算机来运行Shor算法，因此现有的RSA加密仍然安全。
   • 后量子密码学（PQC）旨在创建在未来的量子计算机下仍然安全的加密协议。

关键信息

• RSA加密：基于大素数分解的公钥加密系统，目前在经典计算机上难以破解。
• Shor算法：一种量子算法，能够高效分解大素数，从而破解RSA加密。
• PQC：后量子密码学，旨在设计在量子计算时代仍能保持安全的加密协议。
• 技术可行性图谱：通过图示展示不同技术的可行性，帮助识别哪些技术可能被AGI突破，哪些则不会。

示例分析：密码学与量子计算

• RSA加密的局限性：其安全性依赖于经典计算机难以分解大素数的假设。
• Shor算法的影响：量子计算机能够高效分解大素数，从而威胁RSA的安全性。
• PQC的必要性：为应对未来量子计算的威胁，PQC致力于开发无法被量子计算机破解的加密方法。

结论

本文强调了在AGI存在的情况下，识别技术根本性限制的重要性。这些限制不仅适用于AGI，也适用于自然智能。通过系统性地分析这些限制，政策制定者和分析人员可以更有效地分配资源，预测技术发展的可能性，并为国家安全和人类自主性制定策略。该框架是理解AGI实际能力边界的重要起点。

附录：术语解释

• AGI：人工通用智能
• AI：人工智能
• PQC：后量子密码学
• RSA：Rivest-Shamir-Adleman（一种公钥加密算法）

参考文献

• Aaronson, Scott. “P? NP,” undated.
• Aaronson, Scott. Quantum Computing Since Democritus, Cambridge University Press, 2013.
• Atkins, Peter. The Laws of Thermodynamics: A Very Short Introduction, Oxford University Press, 2010.
• Bernstein, Daniel J., and Tanja Lange. “Post-Quantum Cryptography,” Nature, Vol. 549, No. 7671, 2017.
• Boneh, Dan. “Twenty Years of Attacks on the RSA Cryptosystem,” Notices of the AMS, Vol. 46, No. 2, 1999.
• Clarke, Arthur C. Profiles of the Future: An Enquiry into the Limits of the Possible, 2nd ed., Harper and Row, 1973.
• Hawking, Stephen W. “Chronology Protection Conjecture,” Physical Review D, Vol. 46, No. 2, 1992.
• Karp, Richard M. “Reducibility Among Combinatorial Problems,” Journal of Symbolic Logic, Vol. 40, No. 4, 1975.
• Khinchin, A. Ya. Mathematical Foundations of Information Theory, trans. by R. A. Silverman and M. D. Friedman, Courier Corporation, 2013.
• Lubin, Philip. A Roadmap to Interstellar Flight, NASA Innovative Advanced Concepts, 2019.
• Lucas, John R. “Minds, Machines and Gödel,” Philosophy, Vol. 36, No. 137, 1961.
• Rivest, Ronald L., Adi Shamir, and Len Adelman. “On Digital Signatures and Public-Key Cryptosystems,” MIT Laboratory for Computer Science, Technical Memorandum 82, 1977.
• Russell, Stuart. “Of Myths and Moonshine,” Edge, November 14, 2014.
• Shor, Peter W. “Algorithms for Quantum Computation: Discrete Logarithms and Factoring,” Proceedings 35th Annual Symposium on Foundations of Computer Science, IEEE, 1994.