揭开多智能体决策的隐形不公，结果指标相同也未必可靠 | EMNLP'26
揭开多智能体决策的隐形不公，结果指标相同也未必可靠 | EMNLP'26当多个大语言模型（LLM）组成「招聘委员会」，共同筛选简历、讨论候选人、打分并投票时，我们通常会用最终录用率来判断系统是否公平。
来自主题: AI技术研报
8303 点击 2026-09-09 14:51
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
当多个大语言模型（LLM）组成「招聘委员会」，共同筛选简历、讨论候选人、打分并投票时，我们通常会用最终录用率来判断系统是否公平。
自动手语翻译中，一直存在一个隐蔽难题：模型即使已经较好地对齐了视觉与文本，也可能在逐词生成时，被某个局部合理、却缺少视觉证据支持的词带偏。
一句话概括：文本世界模型都在比 "生成文本像不像真实环境"，但我们发现文本更接近真实环境的预测反而可能让智能体错得更离谱。把训练目标从 "状态一致" 换成 "行为一致" 后，16 组实验配置下世界模型的轨迹级一致性几乎全面提升，弱智能体离线评测的假阳性率从 42.5% 降到 9.5%。
随着Office AI和文档智能体的发展，大模型开始直接处理财报、合同、研究报告等长篇图文材料。
大视觉语言模型（LVLM）把语言理解扩展到了图像等多模态输入，同时，也带来了更隐蔽的攻击面。
一家名为脸谱心智（FaceMind）的初创公司就在顶级学术会议 EMNLP 主会上系统性地揭示了这个问题，并给出了解法。更有意思的是，就在「马嘉祺」事件前不到两周，全球最强 AI 公司之一 Anthropic 也在自家产品中悄悄落地了一次高度相关的改造 —— 方向与脸谱心智一年前的论文几乎完全一致。
「2018 到 2023 年间在 EMNLP 会议上发表的那篇论文中，第一作者本科就读于达特茅斯学院、第四作者本科就读于宾夕法尼亚大学的那篇科学论文，题目是什么？」
在大模型研究领域，做混合专家模型（MoE）的团队很多，但专注机制可解释性（Mechanistic Interpretability）的却寥寥无几 —— 而将二者深度结合，从底层机制理解复杂推理过程的工作，更是凤毛麟角。
聚焦大型语言模型（LLMs）的安全漏洞，研究人员提出了全新的越狱攻击范式与防御策略，深入剖析了模型在生成过程中的注意力变化规律，为LLMs安全研究提供了重要参考。论文已被EMNLP2025接收
近日，来自 MetaGPT、蒙特利尔大学和 Mila 研究所、麦吉尔大学、耶鲁大学等机构的研究团队发布 CARE 框架，一个新颖的原生检索增强推理框架，教会 LLM 将推理过程中的上下文事实与模型自身的检索能力有机结合起来。该框架现已全面开源，包括训练数据集、训练代码、模型 checkpoints 和评估代码，为社区提供一套完整的、可复现工作。