LeCun证明了:规模从未起作用,下一token路线效率低
LeCun证明了:规模从未起作用,下一token路线效率低人工智能先驱 Yann LeCun 一直主张「生成式 AI 是一条死胡同,世界模型才是真的未来」。
搜索
人工智能先驱 Yann LeCun 一直主张「生成式 AI 是一条死胡同,世界模型才是真的未来」。
在企业级真实业务与复杂数据分析中,让大模型「一眼看穿数据库并写出完美SQL」,往往只是一个不切实际的幻想。
用螺丝刀拧紧螺丝,听起来并不复杂。
随着递归自我改进(Recursive Self-Improvement,RSI)受到关注,智能体如何从交互经验中持续改进自身成为研究热点。智能体记忆机制影响着这些经验能否被有效保留和利用。
过去几年,神经网络接连改写了一个又一个领域:图像生成有了 Stable Diffusion,视频生成已经能做到以假乱真,就连 3D 渲染也出现了 RenderFormer 这样的纯神经网络方法。但在高保真物理仿真上,神经网络始终没能交出令人满意的答卷,游戏、动画和机器人领域至今仍依赖需要手动调参、难以求梯度的传统求解器。
660倍的参数差距,结果小模型赢了?!
让大模型「多想一会儿」,今天几乎等同于让它多写一些字:先生成一段思维链,再给出答案。
一道试题对人来说有多难,能否从大模型的解题过程中找到线索?
数学题交给数学老师,代码题交给代码老师,医学题交给医学老师。把各有所长的专家请到一起,就能让同一个小模型学会多种能力吗?
让大模型「多想一会儿」,今天几乎等同于让它多写一些字:先生成一段思维链,再给出答案。