苹果也在蒸馏大模型，给出了蒸馏Scaling Laws
苹果也在蒸馏大模型，给出了蒸馏Scaling Laws蒸馏模型的性能可以量化估算了。
来自主题: AI资讯
7563 点击 2025-02-14 15:41
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
蒸馏模型的性能可以量化估算了。
7B大小的视频理解模型中的新SOTA，来了！
让DeepSeek代替Claude思考，缝合怪玩法火了。原因无它：比单独使用DeepSeek R1、Claude Sonnet 3.5、OpenAI o1模型的效果更好。DeepClaude应用本身100%免费且开源，在GitHub上已揽获3k星星（当然API要用自己的）。
DeepSeek掀起的算力热潮还在持续。中国电信昨日宣布推出了息壤智算一体机-DeepSeek版，在硬件层面以华为昇腾芯片为基础，提供8卡、16卡、32卡等多种规格型号。此前，京东云也发布DeepSeek大模型一体机，支持华为昇腾、海光、寒武纪、摩尔线程、天数智芯等国产AI加速芯片。《科创板日报》了解到，华鲲振宇也推出了DeepSeek大模型一体机方案。
近日，微软和剑桥大学公布推理新方法：多模态思维可视化MVoT。新方法可以边推理，边「想象」，同时利用文本和图像信息学习，在实验中比CoT拥有更好的可解释性和稳健性，复杂情况下甚至比CoT强20%。还可以与CoT组合，进一步提升模型性能。
以大语言模型为代表的AI在智力方面已经逐渐逼近甚至超过人类，但能否像人类一样有痛苦、快乐这样的感知呢？近日，谷歌团队和LSE发表了一项研究，他们发现，LLM能够做出避免痛苦的权衡选择，这也许是实现「有意识AI」的第一步。
继昨天决定免费之后，百度刚刚又发布一则重磅消息——下一代文心模型，决定开源！而且官宣内容只有一句话（字少事大的感觉）：我们将在未来几个月中陆续推出文心大模型4.5系列，并于6月30日起正式开源。
史上最大规模视觉语言数据集：1000亿图像-文本对！
涌现（Emergence），是生成式AI浪潮的一个关键现象：当模型规模扩大至临界点，AI会展现出人类一般的智慧，能理解、学习甚至创造。
脑机接口技术炙手可热，马斯克的Neuralink更是吸引了全球目光。然而其侵入式方案的风险不容忽视。Meta AI则另辟蹊径，近日推出了非侵入式的Brain2Qwerty深度学习模型，它能通过分析脑电图或脑磁图「读」出人们在键盘上输入的文字。