即插即用！清华国科大等推出视觉微调框架，仅需调整5%骨干网络参数 | CVPR2025
即插即用！清华国科大等推出视觉微调框架，仅需调整5%骨干网络参数 | CVPR2025仅调整5%的骨干网络参数，就能超越全参数微调效果？！
来自主题: AI技术研报
6700 点击 2025-04-25 14:27
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
仅调整5%的骨干网络参数，就能超越全参数微调效果？！
近年来，随着大型语言模型（LLMs）的快速发展，多模态理解领域取得了前所未有的进步。像 OpenAI、InternVL 和 Qwen-VL 系列这样的最先进的视觉-语言模型（VLMs），在处理复杂的视觉-文本任务时展现了卓越的能力。
本文作者刘圳是香港中文大学（深圳）数据科学学院的助理教授，肖镇中是德国马克思普朗克-智能系统研究所和图宾根大学的博士生，刘威杨是德国马克思普朗克-智能系统研究所的研究员，Yoshua Bengio 是蒙特利尔大学和加拿大 Mila 研究所的教授，张鼎怀是微软研究院的研究员。此论文已收录于 ICLR 2025。
让大语言模型更懂特定领域知识，有新招了！
低秩适配器（LoRA）能够在有监督微调中以约 5% 的可训练参数实现全参数微调 90% 性能。
7B小模型+3.8万条训练数据，就能让音频理解和推断评测基准MMAU榜单王座易主？
大语言模型（LLM）在推理领域的最新成果表明了通过扩展测试时计算来提高推理能力的潜力，比如 OpenAI 的 o1 系列。
只要微调模型生成的前8-32个词，就能让大模型推理能力达到和传统监督训练一样的水平？
开源微调神器Unsloth带着黑科技又来了：短短两周后，再次优化DeepSeek-R1同款GRPO训练算法，上下文变长10倍，而显存只需原来的1/10！
在面对复杂的推理任务时，SFT往往让大模型显得力不从心。最近，CMU等机构的华人团队提出了「批判性微调」（CFT）方法，仅在 50K 样本上训练，就在大多数基准测试中优于使用超过200万个样本的强化学习方法。