音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造首个专为ALLMs（音频大语言模型）设计的多维度可信度评估基准来了。
来自主题: AI技术研报
8066 点击 2025-06-03 15:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
首个专为ALLMs（音频大语言模型）设计的多维度可信度评估基准来了。
人类的思维是非透明的，没有继承的记忆，因此需要通过语言交流的环境来学习。人类的知识传递长期依赖符号语言：从文字、数学公式到编程代码，我们通过符号系统将知识编码、解码。但这种方式存在天然瓶颈，比如信息冗余、效率低下等。
端午节前OpenAI发布了o3/o4-mini模型的Function Calling指南，这份指南可以说是目前网上最硬核权威的大模型函数调用实战手册，没有之一。
大语言模型（LLMs）作为由复杂算法和海量数据驱动的产物，会不会“无意中”学会了某些类似人类进化出来的行为模式？这听起来或许有些大胆，但背后的推理其实并不难理解：
新加坡国立大学等机构的研究者们通过元能力对齐的训练框架，模仿人类推理的心理学原理，将演绎、归纳与溯因能力融入模型训练。实验结果显示，这一方法不仅提升了模型在数学与编程任务上的性能，还展现出跨领域的可扩展性。
杯子在我的左边还是右边？
在多智能体AI系统中，一旦任务失败，开发者常陷入「谁错了、错在哪」的谜团。PSU、杜克大学与谷歌DeepMind等机构首次提出「自动化失败归因」，发布Who&When数据集，探索三种归因方法，揭示该问题的复杂性与挑战性。
随着大语言模型 (LLM) 的出现，扩展 Transformer 架构已被视为彻底改变现有 AI 格局并在众多不同任务中取得最佳性能的有利途径。因此，无论是在工业界还是学术界，探索如何扩展 Transformer 模型日益成为一种趋势。
在过去的一周，这一方向的进展尤其丰富。有人发现，几篇关于「让 LLM（或智能体）学会自我训练」的论文在 arXiv 上集中出现，其中甚至包括受「哥德尔机」构想启发而提出的「达尔文哥德尔机」。或许，AI 模型的自我进化能力正在加速提升。
推理模型常常表现出类似自我反思的行为，但问题是——这些行为是否真的能有效探索新策略呢？