
微软、国科大开启1Bit时代:大模型转三进制,速度快4倍能耗降至1/41
微软、国科大开启1Bit时代:大模型转三进制,速度快4倍能耗降至1/41今天凌晨,由微软、国科大等机构提交的一篇论文在 AI 圈里被人们争相转阅。该研究提出了一种 1-bit 大模型,实现效果让人只想说两个字:震惊。
来自主题: AI技术研报
9598 点击 2024-02-29 13:42
今天凌晨,由微软、国科大等机构提交的一篇论文在 AI 圈里被人们争相转阅。该研究提出了一种 1-bit 大模型,实现效果让人只想说两个字:震惊。
现在,大语言模型(LLM)迎来了“1-bit时代”。