超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架
超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
来自主题: AI资讯
5869 点击 2025-07-27 13:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
AI超级实用的落地，只有这家玩明白了。 前几天，奥特曼在采访中透露，亲自体验 GPT-5 后，被其强大的能力吓到。有个自己都搞不懂的问题，模型却能一下答出来，那一刻他甚至觉得自己在擅长的领域也有些「无力」。
还在为 LoRA 训练不稳定、模型融合效果差、剪枝后性能大降而烦恼吗？来自香港城市大学、南方科技大学、浙江大学等机构的研究者们提出了一种简单的渐进式训练策略，CoTo，通过在训练早期随机失活一部分适配器，并逐渐提高其激活概率，有效缓解了层级不均衡问题，并显著增强了模型在多任务融合和剪枝等操作上的鲁棒性和有效性。该工作已被机器学习顶会 ICML 2025 接收。
这大概是大家玩得最开心的一届WAIC。在上海世博展览馆里，你能看到：机器狗托着AI眼镜“哒哒哒”走，机器人被绑了绳子“遛”机器狗，人们给自己绑上感应器，小心翼翼“遥操”着机器人搭积木、玩迷宫。
多模态大模型 (MLLM) 驱动的 OS 智能体在单屏动作落实（如 ScreenSpot）、短链操作任务（如 AndroidControl）上展现出突出的表现，标志着端侧任务自动化的初步成熟。
CostFilter-AD通过构建异常代价体并滤波来优化异常检测，能精准识别微小缺陷，无需缺陷样本训练。可作为通用插件提升现有检测系统，帮助工厂提前发现缺陷，提高产品质量。
当前最强大的大语言模型（LLM）虽然代码能力飞速发展，但在解决真实、复杂的机器学习工程（MLE）任务时，仍像是在进行一场“闭卷考试”。它们可以在单次尝试中生成代码，却无法模拟人类工程师那样，在反复的实验、调试、反馈和优化中寻找最优解的真实工作流。
2025年7月17日，在GenAI Assembling 第五期硅谷Meetup上，最近火热的明星AI Agent 公司Genspark、Lovart、和Simular.ai的创始人，以及新一代基础设施公司SambaNova的Agent技术负责人，一起讨论了他们在今天AI Agent发展第一线所观察和感受到的一切。
“今年无趣许多。去年有很多特别有想象力的东西，但今年大家都变得极其务实，所有人都在求稳。”一位头部科技公司核心人士在WAIC现场直言不讳地吐槽。
如果你因为太热、太懒、太忙，没法来WAIC；或者是来到展馆，却不知从何逛起，在这份指南里，我们帮你把重点划好了。7月26日，世界人工智能大会（WAIC 2025）在上海世博展览馆开幕。这是一年一度中国AI领域最重要的盛会，没有之一。