OpenAI新幻觉论文惹争议！GPT-5拉胯是测试基准有问题？？
OpenAI新幻觉论文惹争议！GPT-5拉胯是测试基准有问题？？OpenAI好不容易发了篇新论文，还是给GPT-5挽尊？
来自主题: AI资讯
7131 点击 2025-09-09 12:52
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
OpenAI好不容易发了篇新论文，还是给GPT-5挽尊？
周末在家扒拉上周更新的论文的时候，看到一篇我自己一直非常关心的领域的论文，而且还是来自发论文发的越来越少的OpenAI。
OpenAI重磅结构调整：ChatGPT「模型行为」团队并入Post-Training，前负责人Joanne Jang负责新成立的OAI Labs。而背后原因，可能是他们最近的新发现：评测在奖励模型「幻觉」，模型被逼成「应试选手」。一次组织重组+评测范式重构，也许正在改写AI的能力边界与产品形态。
AI 最臭名昭著的 Bug 是什么？不是代码崩溃，而是「幻觉」—— 模型自信地编造事实，让你真假难辨。这个根本性挑战，是阻碍我们完全信任 AI 的关键障碍。
OpenAI的GPT-5因大幅降低AI幻觉而被批"变蠢"，输出呆板创造力减弱，反映出幻觉降低限制模型灵活性。对话嘉宾甄焱鲲分析幻觉本质无法根除，需辩证看待，并探讨类型分5类、缓解方法如In-Context-Learning及RAG，影响企业应用场景的容忍度与决策，强调未来模型或通过世界模型深化理解。
关于大模型产生幻觉这个事，从2023年GPT火了以后，就一直是业界津津乐道的热门话题，但始终缺乏系统性的重磅研究来深入解释其根本机制。今天，伯克利的研究者们带来一个重要研究成果：让基于Transformer架构的语言模型产生幻觉的机制，恰恰也是让它们拥有超强泛化能力的关键。这就像是一枚硬币的两面，您想要哪一面，就得接受另一面的存在。
Rubrik 联合创始人 Soham Mazumdar 于 2023 年离职后，创立了一家名为 WisdomAI 的新数据初创公司。
“让AI帮忙推荐楼盘，它说得有理有据，连户型都帮我选好了，我都心动了，结果它推荐的楼盘根本不存在……”然而，大家对AI的信任有时也会悄悄动摇：文中附上的引用链接变成失效的乱码，严谨的学术术语下包裹着虚构的参考文献，回答内容中的统计数据从未在标注信源中出现……
2025年2月，如果不是长期从事人口研究的中国人民大学教授李婷的公开辟谣，很多人都真诚地相信了一组数据——“中国80后累计死亡率为5.20%”。
近些日子，老詹突然“爱”上了DeepSeeK，简直有点相见恨晚的感觉！几乎每天都摆弄这玩意儿。然而，处着处着，我发现，这家伙有点靠不住！最大的问题是，说假话！