Tokenization，再见！Meta提出大概念模型LCM，1B模型干翻70B？
Tokenization，再见！Meta提出大概念模型LCM，1B模型干翻70B？Meta提出大概念模型，抛弃token，采用更高级别的「概念」在句子嵌入空间上建模，彻底摆脱语言和模态对模型的制约。
来自主题: AI技术研报
9321 点击 2025-01-07 18:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Meta提出大概念模型，抛弃token，采用更高级别的「概念」在句子嵌入空间上建模，彻底摆脱语言和模态对模型的制约。
时隔七年，曾经为苹果提供GPU IP的芯片公司Imagination又要被出售了。日前彭博社援引知情人士透露的消息称，私募基金Canyon Bridge已聘请Lazard为Imagination寻找新的买家。
西安电子科技大学等首次通过理论分析揭示了无线电地图构建是生成问题，并提出RadioDiff模型，在无采样动态无线电地图构建的准确性、结构相似度和峰值信噪比三大指标上全面领先。
只是换一下数学题的变量名称，大模型就可能集体降智？？
2019 年问世的 GPT-2，其 tokenizer 使用了 BPE 算法，这种算法至今仍很常见，但这种方式是最优的吗？来自 HuggingFace 的一篇文章给出了解释。
在今年的 NeurIPS 2024 大会上，硅谷最著名的 VC 之一 Conviction Capital 创始人 Sarah Guo 和合伙人 Pranav Reddy 做了一场 “AI 创业公司的现状（The State of AI Startups）”的分享。
近年来，视觉语言基础模型（Vision Language Models, VLMs）大放异彩，在多模态理解和推理上展现出了超强能力。现在，更加酷炫的视觉语言动作模型（Vision-Language-Action Models, VLAs）来了！通过为 VLMs 加上动作预测模块，VLAs 不仅能 “看” 懂和 “说” 清，还能 “动” 起来，为机器人领域开启了新玩法！
按照惯例，三星通常会在每年1月举行Galaxy Unpacked特别活动，Galaxy S系列旗舰新品也将在这场活动中发布。不过，今年的情况似乎有些特殊，或许是Galaxy S24系列销量太好，截至12月中旬，三星仍没有开启预热活动。
最引人注目四笔过亿（刀乐）投资，其中三家是依靠AI驱动业务，另外一家也是早就布局AI。还是要感谢生成式AI，2024年又开始有人愿意大笔投资法律科技了！
RWA、端侧AI、AI代理、环境隐形智能和XR智能眼镜这5个预测预示着AIoT产业格局的变化。 临近年末，多家科技企业、研究机构、投资人和知名博主纷纷做出对2025年AIoT领域的相关预测。