AI资讯新闻榜单内容搜索-幻觉

关键词: DeepMind,大模型,幻觉,模型训练

DeepMind 这篇论文一出，人类标注者的饭碗也要被砸了吗？

关键词: LLM,AGI,OpenAI,RAG,Pure Storage,幻觉

AGI竞赛，正在大科技公司之间紧锣密鼓地展开，作为万亿显卡帝国掌舵人的老黄自然也不会缺席。在最近举办的GTC 2024上，老黄发表了自己对于AGI以及幻觉问题的看法。

关键词: 幻觉,LLM,ASPIRE

谷歌和威斯康星麦迪逊大学的研究人员推出了一个让LLM给自己输出打分的选择性预测系统，通过软提示微调和自评估学习，取得了比10倍规模大的模型还要好的成绩，为开发下一代可靠的LLM提供了一个非常好的方向。

关键词: LLaMA,Vista,Vista-LLaMA,幻觉

Vista-LLaMA 在处理长视频内容方面的显著优势，为视频分析领域带来了新的解决框架。

关键词: AI,幻觉

软件行业苦降本增效久已。蔓延开去的开发周期，遥遥无望的上线时间，以及不断冒起的缺陷，怎么看都配不上这支精兵强将的队伍。生成式 AI 似乎带来了曙光，

关键词: 幻觉,AI幻觉,AI

人工智能系统的“幻觉”是由于其工作原理和结构决定的，它们并非大脑模型，无法准确地描述事实。然而，人们使用人工智能系统通常是为了完成创造性的任务，而创造力涉及某种启发式的搜索过程。

关键词: 大模型幻觉,幻觉检测,BSChecker,细粒度大模型幻觉检测工具

大模型长期以来一直存在一个致命的问题，即生成幻觉。由于数据集的复杂性，难免会包含过时和错误的信息，这使得输出质量面临着极大的挑战。过多的重复信息还可能导致大型模型产生偏见，这也算是一种形式的幻觉。

关键词: Karpathy,AI幻觉,大模型幻觉

大模型就是「造梦机」！幻觉是LLM与生俱来的特性，而非缺陷。OpenAI科学家Andrej Karpathy独特视角在AI社区掀起了激烈的讨论。

关键词: llya,幻觉,大模型

现在的GPT-4，未来的GPT-5，相较于前几个版本性能更强。安全挑战，史无前例。

关键词: 大模型,LLM,AI,幻觉

本文讨论了大模型AI在语言生成中常出现的“幻觉”现象，即生成与输入信息不符的胡话。作者解释了“幻觉”的成因和影响，并介绍了降低“幻觉”的一些努力和突破。