视觉Token无缝对齐LLMs词表！V²Flow：基于LLMs实现高保真自回归图像生成
视觉Token无缝对齐LLMs词表！V²Flow：基于LLMs实现高保真自回归图像生成视觉Token可以与LLMs词表无缝对齐了！
来自主题: AI技术研报
7087 点击 2025-04-03 15:48
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
视觉Token可以与LLMs词表无缝对齐了！
CLIP、DINO、SAM 基座的重磅问世，推动了各个领域的任务大一统，也促进了多模态大模型的蓬勃发展。
大语言模型长序列文本生成效率新突破——生成10万Token的文本，传统自回归模型需要近5个小时，现在仅需90分钟！
Diffusion Transformer模型模型通过token粒度的缓存方法，实现了图像和视频生成模型上无需训练的两倍以上的加速。
创立10年内估值超过10亿美元的创新公司，被称之为独角兽，它们是市场潜力无限的绩优股，是为行业带来技术创新、模式创新的佼佼者。
研究者提出了FAST，一种高效的动作Tokenizer。通过结合离散余弦变换（DCT）和字节对编码（BPE），FAST显著缩短了训练时间，并且能高效地学习和执行复杂任务，标志着机器人自回归Transformer训练的一个重要突破。
大模型应用落地元年，谁家业务更值得关注？
2019 年问世的 GPT-2，其 tokenizer 使用了 BPE 算法，这种算法至今仍很常见，但这种方式是最优的吗？来自 HuggingFace 的一篇文章给出了解释。
就在OpenAI热闹的12天发布会刚刚落下帷幕，谷歌的火力全开新模型Voe2和Gemnini2吸引了全球AI开发者的眼球时，Meta作为三巨头之一则在筹划着一场静悄悄的革命。
Sora、Genie等模型会都用到的Tokenizer，微软下手了—— 开源了一套全能的Video Tokenizer，名为VidTok。