10秒创造一个世界！吴佳俊团队新作实时交互式3D世界生成，比现有技术快100倍
10秒创造一个世界！吴佳俊团队新作实时交互式3D世界生成，比现有技术快100倍斯坦福吴佳俊团队与MIT携手打造的最新研究成果，让我们离实时生成开放世界游戏又近了一大步。
来自主题: AI技术研报
8132 点击 2024-10-26 22:20
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
斯坦福吴佳俊团队与MIT携手打造的最新研究成果，让我们离实时生成开放世界游戏又近了一大步。
TL;DR：DuoAttention 通过将大语言模型的注意力头分为检索头（Retrieval Heads，需要完整 KV 缓存）和流式头（Streaming Heads，只需固定量 KV 缓存），大幅提升了长上下文推理的效率，显著减少内存消耗、同时提高解码（Decoding）和预填充（Pre-filling）速度，同时在长短上下文任务中保持了准确率。
一台4090笔记本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度，而且最高能实现4k分辨率。
近日，来自斯坦福、MIT、纽约大学和Meta-FAIR等机构的研究人员，通过新的研究重新定义了最大流形容量表示法（MMCR）的可能性。
近日，MIT团队推出了自动搞科研的AI系统——SciAgents。在仿生材料的研究中，模型揭示了以前被认为无关的一些跨学科联系，实现了超越传统人类研究方法的规模、精度和探索能力。
Transformer计算，竟然直接优化到乘法运算了。MIT两位华人学者近期发表的一篇论文提出：Addition is All You Need，让LLM的能耗最高降低95%。
挑战Transformer，MIT初创团队推出LFM（Liquid Foundation Model）新架构模型爆火。
就在刚刚，MIT系初创公司Liquid AI团队官宣：推出首批多模态非Transformer模型——液体基础模型LFM。
一个受线虫启发的全新架构，三大「杯型」均能实现 SOTA 性能，资源高度受限环境也能部署。移动机器人可能更需要一个虫子的大脑。