关键词: AI,ChatGPT,LLM,RLHF,模型训练

RLHF到底是不是强化学习？最近，AI大佬圈因为这个讨论炸锅了。和LeCun同为质疑派的Karpathy表示：比起那种让AlphaGo在围棋中击败人类的强化学习，RLHF还差得远呢。

关键词: LLM,智能体,模型训练,Karpathy,AI,对齐

前段时间冲上热搜的问题「9.11比9.9大吗？」，让几乎所有LLM集体翻车。看似热度已过，但AI界大佬Andrej Karpathy却从中看出了当前大模型技术的本质缺陷，以及未来的潜在改进方向。

关键词: 多模态,LLM,GPT-4,AI,AI视觉,模型训练

LLM的数学推理能力缺陷得到了很多研究的关注，但最近浙大、中科院等机构的学者们提出，先进模型在视觉推理方面同样不足。为此他们提出了一种多模态的视觉推理基准，并设计了一种新颖的数据合成方法。

关键词: 领英AI,领英大模型,LLM,模型训练

随着大型语言模型（LLM）技术日渐成熟，各行各业加快了 LLM 应用落地的步伐。为了改进 LLM 的实际应用效果，业界做出了诸多努力。

关键词: AI,提示词,Prompt,CO-STAR,LLM

新加坡举办了首届GPT-4提示工程竞赛，Sheila Teo取得了冠军，我们来学习借鉴她采用的三项提示技巧： 使用CO-STAR框架构建提示词 2.使用分隔符将提示词分段 3.使用LLM系统提示

关键词: LLM,AI,模型训练,SAE,稀疏自编码器

简而言之：矩阵 → ReLU 激活 → 矩阵

关键词: Transformer,AI,LLM,模型训练

在当前 AI 领域，大语言模型采用的主流架构是 Transformer。不过，随着 RWKV、Mamba 等架构的陆续问世，出现了一个很明显的趋势：在语言建模困惑度方面与 Transformer 较量的循环大语言模型正在快速进入人们的视线。

关键词: 语义路由,AI,RAG,搜索增强,LLM,模型训练

在这篇文章中，笔者将讨论以下几个问题： • 什么是语义路由 • RAG 路由的不同场景

关键词: AI,RAG,搜索增强,LLM,Query,模型训练

在这篇文章中，笔者将讨论以下几个问题： • 为什么要进行 query 理解 • query 理解有哪些技术（从 RAG 角度） • 各种 query 理解技术的实现（基于 LangChain）

关键词: AI,RAG,搜索增强,LLM,Meta AI,模型训练

『RAG 高效应用指南』系列将就如何提高 RAG 系统性能进行深入探讨，提供一系列具体的方法和建议。同时读者也需要记住，提高 RAG 系统性能是一个持续的过程，需要不断地评估、优化和迭代。