2024年，百万上下文依然没有杀死RAG
2024年，百万上下文依然没有杀死RAG每一次，当基础模型能力变强，总会有人预言：RAG（检索增强生成）或许要过时了。
来自主题: AI资讯
4842 点击 2024-12-23 13:52
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
每一次，当基础模型能力变强，总会有人预言：RAG（检索增强生成）或许要过时了。
在讨论了 RAG 的 chunking、embedding、评估指标、评估流程等技术后，我们进一步探讨 RAG 系统的实际应用。
RAG，可以说是大模型时代最成功的落地模式之一，通过检索-生成的方式，极大的拓展了大模型的应用边界， 但是，RAG 在落地实践上却没有那么简单。
长文本向量模型能够将十页长的文本编码为单个向量，听起来很强大，但真的实用吗？ 很多人觉得... 未必。 直接用行不行？该不该分块？怎么分才最高效？本文将带你深入探讨长文本向量模型的不同分块策略，分析利弊，帮你避坑。
多模态检索增强生成（mRAG）也有o1思考推理那味儿了！ 阿里通义实验室新研究推出自适应规划的多模态检索智能体。 名叫OmniSearch，它能模拟人类解决问题的思维方式，将复杂问题逐步拆解进行智能检索规划。
曾经参与过公司内部的RAG应用，写过一篇关于RAG的技术详情以及有哪些好用的技巧，这次专注于总结一下RAG的提升方法。
将知识图谱技术与RAG有机结合的GraphRAG可谓是今年下半年来的LLM应用领域的一个热点，借助大模型从非结构化文本数据创建知识图谱与摘要，并结合图与向量索引技术来提高对复杂用户查询的检索增强与响应质量。
论文提出了一种RAG任务分类法，将用户查询分为四个级别，并讨论了将外部数据集成到LLMs中的三种主要方式。从简单的事实检索到复杂的推理任务，每个级别都有其独特的难点和解决方案，需要不同的技术和方法来优化性能。
关于产业进展，代码辅助工具，PearAI ，https://trypear.ai/，提供了代码自动生成、智能代码预测、代码编辑聊天、代码记忆提升、智能代码搜索等功能，还内置了Perplexity、Memo等其他AI工具，这其实加剧了如cursor等同质产品的竞争。
门外汉也能搞点钱的AI时代