
FBI-LLM低比特基础大语言模型来了,首个完全从头训练的二值化语言模型
FBI-LLM低比特基础大语言模型来了,首个完全从头训练的二值化语言模型自回归训练方式已经成为了大语言模型(LLMs)训练的标准模式, 今天介绍一篇来自阿联酋世界第一所人工智能大学MBZUAI的VILA实验室和CMU计算机系合作的论文,题为《FBI-LLM: Scaling Up Fully Binarized LLMs from Scratch via Autoregressive Distillation》
自回归训练方式已经成为了大语言模型(LLMs)训练的标准模式, 今天介绍一篇来自阿联酋世界第一所人工智能大学MBZUAI的VILA实验室和CMU计算机系合作的论文,题为《FBI-LLM: Scaling Up Fully Binarized LLMs from Scratch via Autoregressive Distillation》
40秒生成3D视频,Stability AI开源首个视频生视频模型。
Stable Audio Open:开源文本转音频模型。
Scaling Law还没走到尽头,「小模型」逐渐成为科技巨头们的追赶趋势。Meta最近发布的MobileLLM系列,规模甚至降低到了1B以下,两个版本分别只有125M和350M参数,但却实现了比更大规模模型更优的性能。
将分析师此前需要2-3个小时完成的工作缩短为2-3分钟。
Stable Assistant还支持草图生成完整图片,一键“毛坯”变“精装”。
Character AI 也要走上 Stability AI 的老路了?
加速药物开发和临床试验的效率。
此前Stability AI曾陷入债务危机,经营亏损,多位高层人员流失。
6月中旬,Iambic Therapeutics宣布完成超额认购的5000万美元B轮融资,由新投资者 Mubadala Capital 和 Exor Ventures 领投,卡塔尔投资局 (QIA) 以及老股东Abingworth、Illumina Ventures、Nexus Venture Partners、Coatue 和 Tao Capital Partners 参投。