搜索
随着当前大语言模型的广泛应用和推理时扩展的新范式的崛起，如何实现高效的大规模推理成为了一个巨大挑战。特别是在语言模型的推理阶段，传统注意力机制中的键值缓存（KV Cache）会随着批处理大小和序列长度线性增长，俨然成为制约大语言模型规模化应用和推理时扩展的「内存杀手」。
一文读懂数据标注及最佳实践
以自研的“1+N”多模态模型系统，打造3D动态内容为核心的交互产品。
“3D大模型终于可以生成锐利的边角了！”
AI产品与基座模型独立发展，已经成为主流趋势。
智谱，昨天被美国商务部列入了实体清单，火了。
先说结论： 多数模型，是色盲
本文介绍了一篇由浙江大学章国锋教授和商汤科技研究团队联合撰写的论文《StarGen: A Spatiotemporal Autoregression Framework with Video Diffusion Model for Scalable and Controllable Scene Generation》。
大模型低精度训练和推理是大模型领域中的重要研究方向，旨在通过降低模型精度来减少计算和存储成本，同时保持模型的性能。因为在大模型研发成本降低上的巨大价值而受到行业广泛关注 。
虽然大模型取得突破性进展，但其在多语言场景下仍具有局限性，存在很大的改善空间。