提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交大语言模型（LLM）能力提升引发对潜在风险的担忧，洞察其内部“思维过程”、识别危险信号成AI安全核心挑战。
来自主题: AI技术研报
7376 点击 2025-06-23 14:58
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大语言模型（LLM）能力提升引发对潜在风险的担忧，洞察其内部“思维过程”、识别危险信号成AI安全核心挑战。
AI生态系统的总收入与已投入的资金相比仍然相形见绌，如果说有什么不同的话，那就是我去年对科技巨头们在AI上赚取多少收入的估计可能还太高了。
不是更大模型，而是更强推理、更像人！AGI离落地，还有多远？OpenAI前研究主管表示，AGI所需突破已经实现！
关于大模型产生幻觉这个事，从2023年GPT火了以后，就一直是业界津津乐道的热门话题，但始终缺乏系统性的重磅研究来深入解释其根本机制。今天，伯克利的研究者们带来一个重要研究成果：让基于Transformer架构的语言模型产生幻觉的机制，恰恰也是让它们拥有超强泛化能力的关键。这就像是一枚硬币的两面，您想要哪一面，就得接受另一面的存在。
已推出超100款医疗AI产品。智东西6月21日报道，6月20日，上海医疗AI创企联影智能宣布完成A轮融资，总规模10亿元人民币。
在 ChatGPT 等大语言模型（LLMs）席卷全球的今天，越来越多的研究者意识到：我们需要的不只是 “会说话” 的 LLM，更是 “能解释” 的 LLM。
强化学习（RL）已经成为当今 LLM 不可或缺的技术之一。从大模型对齐到推理模型训练再到如今的智能体强化学习（Agentic RL），你几乎能在当今 AI 领域的每个领域看到强化学习的身影。
刚刚过去的618，罗永浩又创下炸裂新纪录——被自己的AI分身打败了！在百度电商直播间，罗永浩数字人强势登场，不仅爆梗频出、神似度拉满，还一举打破老罗本人首秀纪录，成交额破5500万。这背后，大模型已成为幕后操盘手！
一个大模型有了火星图片，能做什么？
随着 AI4Science 的浪潮席卷科研各领域，如何将强大的人工智能模型真正用于分析科学数据、构建数学模型、发现科学规律，正成为该领域亟待突破的关键问题。