「小模型」有更多机会点
「小模型」有更多机会点大厂为什么追求大模型？ 昨天有提到，为什么要研究语言模型。
来自主题: AI资讯
6199 点击 2025-01-08 14:50
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大厂为什么追求大模型？ 昨天有提到，为什么要研究语言模型。
a16z 合伙人 Jennifer Li 最近分享了她对生成式 AI 的最新见解，特别提到了设备端运行的小型模型在未来的重要性。
为了优化小模型的提示词，我们不得不求助于计算成本高昂的大模型。这种依赖不仅增加了开发成本，还限制了小模型的应用场景。
英伟达新品掀起边缘AI开发板大战，也为中国企业在边缘AI领域的发展提供了机遇。 前几篇文章，我们不断探讨小模型（SLM）在端侧和边缘侧的崛起。现在，边缘侧小模型已然成为不可忽视的发展趋势。
微软下一代14B小模型Phi-4出世了！仅用了40%合成数据，在数学性能上击败了GPT-4o，最新36页技术报告出炉。
过去一年，强化学习成为了大模型 AI 领域最热的概念之一。 随着行业内高阶推理模型的推出，再次彰显了强化学习在通往 AGI 道路上的重要性，也标志着大模型 AI 进入了一个全新阶段。
如果给小模型更长的思考时间，它们性能可以超越更大规模的模型。
o1完整版公开仅10天，Scaling Law新范式就被逆向工程复现了！
Ilya「预训练结束了」言论一出，圈内哗然。谷歌大佬Logan Klipatrick和LeCun站出来反对说：预训练还没结束！Scaling Law真的崩了吗？Epoch AI发布报告称，我们已经进入「小模型」周期，但下一代依然会更大。
OpenAI谷歌天天刷流量，微软也坐不住了，推出最新小模型Phi-4。 参数量仅14B，MMLU性能就和Llama 3.3/ Qwen2.5等70B级别大模型坐一桌。