腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞腾讯混元，在开源社区打出名气了。
来自主题: AI资讯
5844 点击 2025-07-15 12:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
腾讯混元，在开源社区打出名气了。
边缘-云协同计算通过整合边缘节点和云端资源，解决了传统云计算的延迟和带宽问题，推动了分布式智能和模型优化的发展。最新综述论文系统梳理了ECCC的架构设计、模型优化、资源管理、隐私安全和实际应用，提出了统一的分布式智能与模型优化框架，为未来研究提供了方向，包括大语言模型部署、6G整合和量子计算等前沿技术。
在上一篇关于子模优化与多样化查询的文章发表后，我们收到了来自圈内很多积极的反馈，希望我们能多聊聊子模性（submodularity）和子模优化，尤其是在信息检索和 Agentic Search 场景下的更多应用。
在5月中旬，谷歌发布了AlphaEvolve。不仅30天内攻克了18年未解的难题，或将开启了一场无需「灵感」的科学革命：未来，科学家将不再依赖直觉，而是靠AI解决难题！
又一项中国的 AI 技术在国外火了！
在大语言模型能力如此强大的背景下，AI与神经科学之间的联系变得前所未有地重要，催生了一个新兴领域：NeuroAI。它关注两个角度的问题：
LLM正以前所未有的速度进化：METR发现，它们的智能每7个月就翻一番。到了2030年，一个模型可能只需几小时，就能搞定人类工程师几个月的工作。别眨眼，你的岗位或许已在倒计时中。
Zeju Qiu和Tim Z. Xiao是德国马普所博士生，Simon Buchholz和Maximilian Dax担任德国马普所博士后研究员
多模态大模型通常是在大型预训练语言模型（LLM）的基础上扩展而来。尽管原始的 LLM 并不具备视觉理解能力，但经过多模态训练后，这些模型却能在各类视觉相关任务中展现出强大的表现。
反思技术因其简单性和有效性受到了广泛的研究和应用，具体表现为在大语言模型遇到障碍或困难时，提示其“再想一下”，可以显著提升性能 [1]。然而，2024 年谷歌 DeepMind 的研究人员在一项研究中指出，大模型其实分不清对与错，如果不是仅仅提示模型反思那些它回答错误的问题，这样的提示策略反而可能让模型更倾向于把回答正确的答案改错 [2]。