关键词: DeepMind,AI数学,LLM,大模型,模型训练

普林斯顿大学和DeepMind的科学家用严谨的数学方法证明了大语言模型不是随机鹦鹉，规模越大能力一定越大。

关键词: Transformer,深度学习,LLM,RNN

状态空间模型正在兴起，注意力是否已到尽头？

关键词: 文生图,Pika,MLLM,多模态模型,扩散模型

近日，北大、斯坦福、以及Pika Labs发布了新的开源文生图框架，利用多模态LLM的能力成功解决文生图两大难题，表现超越SDXL和DALL·E 3

关键词: 流程工程,LLM,提示工程,提示词

Karpathy力推代码生成任务增强流程，让GPT-4在CodeContests从19%提升到44%，不用微调不用新数据集训练，让大模型代码能力大幅提升。

关键词: LLM,世界模型,ChatGPT,AI,渗透式人工智能

最近来自香港科技大学（HKUST）、南洋理工大学（NTU）与加利福尼亚大学洛杉矶分校（UCLA）的研究者们提供了新的思路：他们发现大语言模型如 ChatGPT 可以理解传感器信号进而完成物理世界中的任务。该项目初步成果发表于 ACM HotMobile 2024。

关键词: CodeAct,智能体,LLM,GPT-4,模型训练

最近，UIUC苹果华人提出了一个通用智能体框架CodeAct，通过Python代码统一LLM智能体的行动。

关键词: AGI,智能体,agent,LLM

一位网友公开了他创作的一个可以自主学习的智能体，按照他的设想，这样的智能体将在LLM的加持下迅速成长为无所不能的AGI，而人类如果控制她成长的过程，就不需要专门进行对齐。

关键词: PokéLLMon,大模型,AI玩游戏,Agent

基于大模型的Agent会玩宝可梦了，人类水平的那种！名为PokéLLMon，现在它正在天梯对战中与人类玩家一较高下：

关键词: LLM,Talk2Drive,GPT-4

现在一句口令，就能指挥汽车了。比如说声“我开会要迟到了”“我不想让我朋友等太久”等等，车就能理解，并且自动加速起来。

关键词: RLHF,模型训练,LLM,大语言模型

大型语言模型（LLM）的成功离不开「基于人类反馈的强化学习（RLHF）」。RLHF 可以大致可以分为两个阶段，首先，给定一对偏好和不偏好的行为，训练一个奖励模型，通过分类目标为前者分配更高的分数。