OpenAI自曝“o4”训练中，用思维链监控抓住AI作弊瞬间
OpenAI自曝“o4”训练中，用思维链监控抓住AI作弊瞬间o1/o3这样的推理模型太强大，一有机会就会利用漏洞作弊，怎么办？
来自主题: AI资讯
6163 点击 2025-03-11 16:35
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
o1/o3这样的推理模型太强大，一有机会就会利用漏洞作弊，怎么办？
武汉大学等发布了一篇大型视觉语言模型（LVLMs）安全性的综述论文，提出了一个系统性的安全分类框架，涵盖攻击、防御和评估，并对最新模型DeepSeek Janus-Pro进行了安全性测试，发现其在安全性上存在明显短板。
本文介绍了一项突破性的AI推理技术创新——思维草图(SoT)框架。该框架从人类认知过程中获取灵感，通过一个200M大小的路由模型将LLM引导到概念链、分块符号化和专家词汇三种推理范式，巧妙地解决了大语言模型推理过程中的效率瓶颈。
在 ICLR 2025 中，来自南洋理工大学 S-Lab、上海 AI Lab、北京大学以及香港大学的研究者提出的基于 Flow Matching 技术的全新 3D 生成框架 GaussianAnything，针对现有问题引入了一种交互式的点云结构化潜空间，实现了可扩展的、高质量的 3D 生成，并支持几何-纹理解耦生成与可控编辑能力。
ChatGPT 平地一声雷，打乱了很多人、很多行业的轨迹和节奏。这两年模型发布的数量更是数不胜数，其中文本大模型就占据了 AIGC 赛道的半壁江山。关注我的家人们永远都是抢占 AI 高地的冲锋者。
随着推理模型能力提升，本周Agent也进入刷屏周。
Magma是一个新型多模态基础模型，能够理解和执行多模态任务，适用于数字和物理环境：通过标记集合（SoM）和标记轨迹（ToM）技术，将视觉语言数据转化为可操作任务，显著提升了空间智能和任务泛化能力。
一期长达5小时的播客，究竟谁在听？MIT人工智能研究员、知名播客主持人及科技传播者Lex Fridman的对谈节目《Lex Fridman Podcast》近期推出了有关DeepSeek的一期内容： 截至3月7日，这一期节目在YouTube上获得了178万播放量和2.5万like（点赞），对DeepSeek所代表的AI大模型革新的解读，获得了大量科技界、商界从业者的关注。
艾博连已经启动了独立融资计划。
LLM 在生成 long CoT 方面展现出惊人的能力，例如 o1 已能生成长度高达 100K tokens 的序列。然而，这也给 KV cache 的存储带来了严峻挑战。