
仅需0.4GB,参数只有0和±1!微软开源首个原生1 bit模型,CPU轻松跑
仅需0.4GB,参数只有0和±1!微软开源首个原生1 bit模型,CPU轻松跑微软研究院开源的原生1bit大模型BitNet b1.58 2B4T,将低精度与高效能结合,开创了AI轻量化的新纪元。通过精心设计的推理框架,BitNet不仅突破了内存的限制,还在多项基准测试中表现出色,甚至与全精度模型不相上下。
来自主题: AI技术研报
5551 点击 2025-04-20 21:12
微软研究院开源的原生1bit大模型BitNet b1.58 2B4T,将低精度与高效能结合,开创了AI轻量化的新纪元。通过精心设计的推理框架,BitNet不仅突破了内存的限制,还在多项基准测试中表现出色,甚至与全精度模型不相上下。
极限量化,把每个参数占用空间压缩到1.1bit!