搜索
强化学习与可验证奖励（RLVR）已成为提升视觉语言模型（VLM）推理能力的标配手段。但一个隐蔽的问题始终存在：最终答案的奖励信号，只告诉模型「答对了没有」，却从不告诉它「答案应该从图像的哪个区域得出」。答对，可能是因为真的看懂了图，也可能只是语言先验的捷径、数据集的偏差，甚至是一次幸运的瞎猜。
Agent 经常遇到这样一种幻觉：你给模型接入了终端，下发了一个复杂的 debug 任务，看着它顺藤摸瓜排查了几个小时，最终完美修复了依赖冲突，甚至连测试用例都帮你补齐了。
大视觉语言模型（LVLM）把语言理解扩展到了图像等多模态输入，同时，也带来了更隐蔽的攻击面。
由两名00后大学生创办的美国AI训练数据公司AfterQuery五个月内估值从3亿美元升至32亿美元，其数据已用于英伟达Nemotron 3 Ultra模型训练，并与Thinking Machines Lab、Legora及部分中国AI实验室合作。
家人们，我最近在GitHub上看到一个爽文。
这两年Agent领域冒出来的Engineering越来越多。
如果你觉得 AI agent 离帮你订机票、填报销单、投简历只有一步之遥，那 MMLU-Pro 的作者联合滑铁卢大学 TIGER Lab，UBC NAIL Group 和 UniPat AI，CMU 等机构刚刚放出的这项研究，可能会让你冷静下来。
视觉 - 语言 - 动作模型（Vision-Language-Action Model，VLA）正在成为机器人操作的重要基础模型。经过少量示范微调后，VLA 已经能够完成抓取、放置、堆叠等多种任务。然而，一旦任务涉及精密接触、狭小容差或分布外位置，模型的成功率仍会明显下降。
RSI，可能是 AI 世界里最像科幻的一个词。
给一个大模型漏洞描述和代码仓库，它能否像安全研究人员一样，读代码、找入口、调用工具、构造输入，并反复验证自己的判断？