【Meta_AI】2024关于人工智能世界新模型报告_97页_45mb
报告摘要
Yann LeCun在Ding-Shum讲座中强调了AI系统的一个核心方向:Objective-Driven AI,即以目标为导向的AI。他认为当前AI,如大型语言模型(LLMs),虽在生成文本和图像方面表现出色,但存在严重局限:无法理解世界、进行推理和规划,常常做出错误决策,并缺乏常识。例如,LLMs像 autocomplete一样生成流畅文本,但缺乏事实准确性、逻辑性和长期一致性。(约40字)
LeCun主张,未来的AI助手需要达到人类水平智能,能在日常交互中学习、记忆、推理和规划,类似于人或动物的行为。动物和人类具有的学习能力、世界理解、共同经验(common sense),而AI现在缺失这些,比如无法从感官输入中构建世界模型。(约80字)
关键挑战包括开发能够从感官数据中学习世界模型的系统,使用自监督学习(Self-Supervised Learning)来处理非结构化数据。LeCun批评了传统生成式模型,提出Joint-Embedding Predictive Architecture(JEPA)作为替代,该架构预测抽象表示而非细节,结合能量基础模型(EBM)来避免过度简化。(约120字)
他介绍了具体技术如VICReg、DINOv2和Video-JEPA,这些通过自监督方法训练模型,提高表征学习能力。Objective-Driven AI架构包含World Model、记忆模块和目标导向行为优化,使用模型预测控制(MPC)来确保安全和可控性,BlenderBot等模型作为潜在基础。(约150字)
LeCun展望了AI的未来发展,认为它将整合到所有数字互动中,推动人类智能放大,类似于印刷术革命。但强调AI不应过度封闭,需开源以避免垄断。同时,他对AI风险持乐观,认为AI不会主宰世界,因为它受人类设计目标限制,短期风险可通过技术应对,长期来看AI会增强人类能力而非替代。(约200字)
总体而言,LeCun呼吁解决数学基础、非确定性环境和成本模块等挑战,通过自监督学习和目标驱动架构,实现AI从当前水平向人类级发展,但这需要多年努力,并伴随法律和政策支持确保安全。(约100字)
总结共约490字。
试读结束,高清完整版pdf/doc/ppt,请点下载