Mamba超强进化体一举颠覆Transformer!单张A100跑140K上下文 关键词: Mamba,混合大模型,开源大模型,Transformer,token 【新智元导读】52B的生产级Mamba大模型来了!这个超强变体Jamba刚刚打破世界纪录,它能正面硬刚Transformer,256K超长上下文窗口,吞吐量提升3倍,权重免费下载。 来自主题: AI技术研报 5495 点击 2024-03-29 16:43
Attention isn’t all you need!Mamba混合大模型开源:三倍Transformer吞吐量 关键词: Mamba,混合大模型,开源大模型,Transformer,token Mamba时代来了? 来自主题: AI技术研报 5685 点击 2024-03-29 15:09