破解36年前魔咒！Meta推出反向训练大法消除大模型「逆转诅咒」
破解36年前魔咒！Meta推出反向训练大法消除大模型「逆转诅咒」大语言模型的「逆转诅咒」，被解开了。近日，来自Meta FAIR的研究人员推出了反向训练大法，让模型从反方向上学到了事实之间的逻辑，终于改进了这个困扰人们已久的问题。
来自主题: AI技术研报
5912 点击 2024-04-09 15:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大语言模型的「逆转诅咒」，被解开了。近日，来自Meta FAIR的研究人员推出了反向训练大法，让模型从反方向上学到了事实之间的逻辑，终于改进了这个困扰人们已久的问题。
训大模型的方法可能要被革新了！AI大神Karpathy发布的新项目仅用1000行的C语言训完GPT-2，而不再依赖庞大的GPT-2库。他本人预告，即将上线新课。
距离AI「杀死」搜索引擎，到底还差几步？
AInno-75B正式亮相，AI在视觉识别和工业设计领域的应用范围进一步拓宽。Chat GPT、Sora、Suno等AI技术的接连问世，让人类社会经历了一场认知的革命。世人开始意识到，AI不仅是单一的工具本身，更是推动人类文明进步的新引擎。在这个数据驱动、智能互联的时代，我们不禁发问：当AI的触角延伸到工业的每一个角落，它将如何重塑工业的未来？
行业狂飙之际，版权利益争夺渐酣今年2月，美国OpenAI公司发布了首个视频生成模型“Sora”，再次掀起全球追进生成式人工智能的热潮。然而，据《纽约时报》近日报道，科技巨头OpenAI和谷歌被指涉嫌使用YouTube视频的转录文本来训练其人工智能模型，这一行为可能侵犯了YouTube创作者的版权。
不是大模型变坏了，是用大模型的人变坏了。
小孩子都会的脑筋急转弯推理题，GPT-4和Claude 3做不出？国外一位开发者小哥坚称这一观点，认为GPT模型在训练集外毫无推理能力，无法实现AGI，甚至悬赏1万美元，发起比赛。然而，他当天就被光速打脸了！网友用高能的prompt，让GPT-4和Claude 3几乎达到百分百的正确率。
全网高质量数据集告急！OpenAI、Anthropic等AI公司正在开拓新方法，训练下一代AI模型。
第一个能听懂你说话的语气、有“情商”的AI火了！
OpenAI的秘密武器、ChatGPT背后功臣RLHF，被开源了。来自Hugging Face、加拿大蒙特利尔Mila研究所、网易伏羲AI Lab的研究人员从零开始复现了OpenAI的RLHF pipeline，罗列了25个关键实施细节。