这个小假期，让我感觉很崩溃的是，一项新的研究彻底打破了我们的幻想：LLM的幻觉问题不仅难以解决，而且 从根本上来说是无法100%完全消除的。
来自主题: AI资讯
6693 点击 2024-09-18 16:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
这个小假期，让我感觉很崩溃的是，一项新的研究彻底打破了我们的幻想：LLM的幻觉问题不仅难以解决，而且 从根本上来说是无法100%完全消除的。
臣妾要告发郡长行贿，罪不容诛！
人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。
近日，来自牛津大学的研究人员推出了利用语义熵来检测LLM幻觉的新方法。作为克服混淆的策略，语义熵建立在不确定性估计的概率工具之上，可以直接应用于基础模型，无需对架构进行任何修改。
本文介绍了一篇语言模型对齐研究的论文，由瑞士、英国、和法国的三所大学的博士生和 Google DeepMind 以及 Google Research 的研究人员合作完成。
Alembic首次推出用于企业数据分析和决策支持的无「幻觉」人工智能。
DeepMind发表了一篇名为「To Believe or Not to Believe Your LLM」的新论文，探讨了LLM的不确定性量化问题，通过「迭代提示」成功将LLM的认知不确定性和偶然不确定性解耦。研究还将新推导出的幻觉检测算法应用于Gemini，结果表明，与基线方法相比，该方法能有效检测幻觉。
两个星期前，Google 在今年的 I/O 大会中高调介绍了自家的 AI 搜索功能 AI Overview，并在当周宣布对美国用户开放。我们尚且没能等来预热了好久的 ChatGPT Search，全球市占率超过 9 成的搜索引擎巨头 Google 却无预警地在美国开放了 AI 搜索，一副“为了提升用户体验舍我其谁”的架势。
谷歌AI又闯大祸！
如今，大型语言模型（LLM）已经成为了我们生活中的好帮手