Tokenization，再见！Meta提出大概念模型LCM，1B模型干翻70B？
Tokenization，再见！Meta提出大概念模型LCM，1B模型干翻70B？Meta提出大概念模型，抛弃token，采用更高级别的「概念」在句子嵌入空间上建模，彻底摆脱语言和模态对模型的制约。
来自主题: AI技术研报
9413 点击 2025-01-07 18:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Meta提出大概念模型，抛弃token，采用更高级别的「概念」在句子嵌入空间上建模，彻底摆脱语言和模态对模型的制约。
游戏本质上是虚拟模拟，而虚拟模拟在过去的几十年里，一直是为了好玩而设计的。但是，我们将越来越多地看到它们在现实世界中用于各种用例，无论是培训、学习和发展，还是用于机器人和其他自主系统的训练场，亦或是可视化，来让人们实时看到事物变得栩栩如生。
智能涌现独家获悉：零一万物裁撤预训练算法团队和Infra团队后，阿里通义、智能云团队给出了offer。
流媒体平台爱奇艺已向上海市徐汇区人民法院正式提起诉讼，指控国内AI初创企业MiniMax在AI模型训练及内容生成流程中，涉嫌侵犯其版权，导致生成的内容构成了对爱奇艺版权的侵犯。
随着图像编辑工具和图像生成技术的快速发展，图像处理变得非常方便。然而图像在经过处理后不可避免的会留下伪影（操作痕迹），这些伪影可分为语义和非语义特征。
大模型浪潮下，AI与其背后的通信网络存在密不可分的联系，可以总结为Network for AI和AI for Network两层关系—— 我们用网络加速AI训练推理，通过AI手段让网络变得更加安全可靠。
OpenAI o1和o3模型的发布证明了强化学习能够让大模型拥有像人一样的快速迭代试错、深度思考的高阶推理能力，在基于模仿学习的Scaling Law逐渐受到质疑的今天，基于探索的强化学习有望带来新的Scaling Law。
2020年2月，数据标注员作为人工智能训练师的一个工种，被正式纳入国家职业分类目录。短短几年，这个劳动力需求量巨大的行业，迅速在一些中小城市落地生根。
OpenAI o1和o3模型的秘密，竟传出被中国研究者「破解」？今天，复旦等机构的这篇论文引起了AI社区的强烈反响，他们从强化学习的角度，分析了实现o1的路线图，并总结了现有的「开源版o1」。
在人工智能领域，具有挑战性的模拟环境对于推动多智能体强化学习（MARL）领域的发展至关重要。在合作式多智能体强化学习环境中，大多数算法均通过星际争霸多智能体挑战（SMAC）作为实验环境来验证算法的收敛和样本利用率。