「小模型」有更多机会点
「小模型」有更多机会点大厂为什么追求大模型？ 昨天有提到，为什么要研究语言模型。
来自主题: AI资讯
5860 点击 2025-01-08 14:50
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
大厂为什么追求大模型？ 昨天有提到，为什么要研究语言模型。
a16z 合伙人 Jennifer Li 最近分享了她对生成式 AI 的最新见解，特别提到了设备端运行的小型模型在未来的重要性。
自从 Chatgpt 诞生以来，LLM（大语言模型）的参数量似乎就成为了各个公司的竞赛指标。GPT-1 参数量为 1.17 亿（1.17M），而它的第四代 GPT-4 参数量已经刷新到了 1.8 万亿（1800B）。
商汤科技联合创始人、执行董事徐冰出席香港金融科技周活动，并与前福布斯记者Olivia Kinghorst做现场对谈。在近20分钟的对话中，双方讨论了AI云平台市场趋势、投资判断、超级应用、竞争格局等话题。
Zamba2-7B是一款小型语言模型，在保持输出质量的同时，通过创新架构实现了比同类模型更快的推理速度和更低的内存占用，在图像描述等任务上表现出色，能在各种边缘设备和消费级GPU上高效运行。
欧洲的OpenAI，也不Open了。
大语言模型市场的整合与差异：大语言模型市场存在整合的趋势。一方面，人工智能发展的基础产业是资本密集型的，市场整合对于大语言模型市场的资本支撑是必要的。另一方面，为尽可能提高算法的泛化能力，单个大语言模型也需要集成多种创新功能。市场集中度的提高使得企业需要进一步考虑大语言模型的差异化。
你敢相信 4B 参数小模型，性能却超越千亿量级的 GPT-3.5 ！OpenAI、谷歌、微软、苹果等一众海内外巨头还没做到的事，被一家中国大模型公司抢先了！
浏览器里直接能跑的SOTA小模型来了，分别在2亿、5亿和20亿级别获胜，抱抱脸出品。
互相检查，让小模型也能解决大问题。