
Meta开发System 2蒸馏技术,Llama 2对话模型任务准确率接近100%
Meta开发System 2蒸馏技术,Llama 2对话模型任务准确率接近100%研究者表示,如果 Sytem 2 蒸馏可以成为未来持续学习 AI 系统的重要特征,则可以进一步提升 System 2 表现不那么好的推理任务的性能。
研究者表示,如果 Sytem 2 蒸馏可以成为未来持续学习 AI 系统的重要特征,则可以进一步提升 System 2 表现不那么好的推理任务的性能。
《思考快与慢》中人类的两种思考方式,属实是被Meta给玩明白了。
Meta目前专注于通过参与度实现盈利
Meta首席人工智能科学家、深度学习之父Yann LeCun又开喷了。
下一代视觉模型会摒弃patch吗?Meta AI最近发表的一篇论文就质疑了视觉模型中局部关系的必要性。他们提出了PiT架构,让Transformer直接学习单个像素而不是16×16的patch,结果在多个下游任务中取得了全面超越ViT模型的性能。
尽管生成式AI现阶段并不完美,但绝对称得上是量大管饱。
Meta 3D Gen:AI革命性突破,3D创作从此告别高成本与复杂工艺
Scaling Law 持续见效,让算力就快跟不上大模型的膨胀速度了。「规模越大、算力越高、效果越好」成为行业圭皋。主流大模型从百亿跨越到 1.8 万亿参数只用了1年,META、Google、微软这些巨头也从 2022 年起就在搭建 15000 卡以上的超大集群。「万卡已然成为 AI 主战场的标配。」
Meta的文生3D模型或将给3D创作生态带来剧变。
3D 生成,一直在等待它的「ChatGPT时刻」。