AI资讯新闻榜单内容搜索-模型蒸馏

关键词: 模型蒸馏,AI,模型训练,人工智能

模型蒸馏也有「度」，过度蒸馏，只会导致模型性能下降。最近，来自中科院、北大等多家机构提出全新框架，从两个关键要素去评估和量化蒸馏模型的影响。结果发现，除了豆包、Claude、Gemini之外，大部分开/闭源LLM蒸馏程度过高。

关键词: AI,GPT-5,Opus 3.5,模型蒸馏

最近几个月，从各路媒体、AI 社区到广大网民都在关注 OpenAI 下一代大模型「GPT-5」的进展。

关键词: AI,模型训练,模型蒸馏,人工智能,Sinkhorn

用大模型“蒸馏”小模型，有新招了！

关键词: AI,openai,chatGPT,人工智能,模型蒸馏

今天，OpenAI 2024年首场DevDay在旧金山2号码头的Gateway Pavilion低调举办。

关键词: Llama 3.1,蒸馏,模型蒸馏,AI,SLM

小模型崛起了。