如何基于开源大模型搭建自己的智能体？魔搭社区推出AI Agent开发框架

1322点击 2023-09-05 17:20

9 月 5 日，阿里云牵头建设的 AI 模型社区魔搭（ModelScope）又上新了，推出适配开源大语言模型的 AI Agent 开发框架 ModelScope-Agent。借助 ModelScope-Agent，所有开发者都可基于开源 LLM 搭建属于自己的智能体应用，最大限度释放想象力和创造力。ModelScope-Agent 的代码现已开源。

AI Agent（AI 智能体、AI 代理）可谓当前大模型领域最热门的研究方向，它是指基于 LLM 的、能够使用工具自主完成特定任务的智能体。众所周知，目前阶段的 LLM 存在能力边界，主要擅长处理文本任务。AI Agent 将 LLM 与其他模型、软件等外部工具协同，便能处理真实世界中的各种复杂任务，比如接入视频生成模型，自主生产视频；接入外部软件，帮人类写邮件、订票、购物等等。

AI Agent 类应用正在成为大模型创业的重要赛道，AI Agent 开发框架也应运而生。但业界现有的 AI Agent 开发框架大多基于闭源 LLM 构建。为了充分释放开源 LLM 的生产力，魔搭社区自研了适配开源 LLM 的 AI Agent 开发框架 ModelScope-Agent。简而言之，ModelScope-Agent 是 pilot（领航员）而非 copilot（副驾驶员）。

此前，魔搭已用这套框架在社区做了 " 打样 "，搭建 ModeScopeGPT，它能通过自然语言与用户交互、接受用户指令，通过 " 中枢模型 " 通义千问调用社区的众多 AI 模型 API，自主完成人类布置的任务。ModeScopeGPT 的调用量已超过 25 万。

（ModelScope-Agent 系统架构图）

AI Agent 的工作流程一般包括任务的理解、规划和执行，其中，LLM 负责任务规划、工具调用以及回复生成，是整个流程的智能中枢，好比人类的大脑。ModelScope-Agent 允许开发者自由选择智能体的 " 大脑 "，适配百川、通义千问等各类开源模型。主流 LLM 能够做到 " 即插即用 "，开发者如需专门训练 LLM 以增强其工具调用能力，可以参考 ModelScope-Agent 开源的训练数据、训练方法、优化方案、评估方法。

ModelScope-Agent 开发框架还包含记忆控制、工具使用等模块，记忆控制模块支持知识检索以及 prompt （提示词）管理，工具使用模块支持工具库、工具检索、工具定制。为了增强开源大模型工具调用能力，魔搭社区还自研了一个包含 60w 样本的 MSAgent-Bench 工具调用数据集。

大多数 AI Agent 开发框架需要手动添加工具，而 ModelScope-Agent 通过调用魔搭社区上开源的文本向量模型，打造 API 工具检索引擎，能让 AI Agent 根据用户指令自动检索相关工具。如果开发者想要新增外部工具 /API，只需要在 ModelScope-Agent 上注册工具，即可直接调用。

开源正在成为很多头部大模型玩家的选择。未来，ModelScope-Agent 会适配更多新增的开源 LLM，并将推出更多基于 ModelScope-Agent 开发的应用，如个人助理 Agent、Story Agent、Multi-Agent 等。魔搭鼓励开发者用 ModelScope-Agent 探索工业制造、游戏开发、智能互联等行业的应用。

魔搭社区表示，作为国内规模最大、用户最活跃的 AI 模型开源社区，魔搭将持续通过开源开放推进大模型技术和应用发展。此前，阿里云曾表示要把促进中国大模型生态的繁荣作为首要目标，并将魔搭建设成为中国最大的大模型自由市场。

魔塔社区入口：https://modelscope.cn/home

文章转载自速途网，作者栀橙

关键词: 魔塔 , 阿里巴巴 , AI

AITNT资源拓展

根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考

AI工作流

【开源免费】n8n是一个可以自定义工作流的AI项目，它提供了200个工作节点来帮助用户实现工作流的编排。
项目地址：https://github.com/n8n-io/n8n
在线使用：https://n8n.io/（付费）

【开源免费】DB-GPT是一个AI原生数据应用开发框架，它提供开发多模型管理（SMMF）、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL（智能体工作流编排）等多种技术能力，让围绕数据库构建大模型应用更简单、更方便。
项目地址：https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file


【开源免费】VectorVein是一个不需要任何编程基础，任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤，并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。
项目地址：https://github.com/AndersonBY/vector-vein?tab=readme-ov-file
在线使用：https://vectorvein.ai/（付费）

智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的（AI Agents）项目。用户创建的智能体能够自动执行各种任务，从而让AI有步骤的去解决实际问题。
项目地址：https://github.com/Significant-Gravitas/AutoGPT

﻿【开源免费】MetaGPT是一个“软件开发公司”的智能体项目，只需要输入一句话的老板需求，MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色，包括产品经理 / 架构师 / 项目经理 / 工程师，MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。
项目地址：https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

RAG

【开源免费】graphrag是微软推出的RAG项目，与传统的通过 RAG 方法使用向量相似性作为搜索技术不同，GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。
项目地址：https://github.com/microsoft/graphrag

【开源免费】Dify是最早一批实现RAG，Agent，模型管理等一站式AI开发的工具平台，并且项目方一直持续维护。其中在任务编排方面相对领先对手，可以帮助研发实现像字节扣子那样的功能。
项目地址：https://github.com/langgenius/dify

【开源免费】RAGFlow是和Dify类似的开源项目，该项目在大文件解析方面做的更出色，拓展编排方面相对弱一些。
项目地址：https://github.com/infiniflow/ragflow/tree/main

【开源免费】phidata是一个可以实现将数据转化成向量存储，并通过AI实现RAG功能的项目
项目地址：https://github.com/phidatahq/phidata

【开源免费】TaskingAI 是一个提供RAG，Agent，大模型管理等AI项目开发的工具平台，比LangChain更强大的中间件AI平台工具。
项目地址：https://github.com/TaskingAI/TaskingAI

prompt

【开源免费】LangGPT 是一个通过结构化和模板化的方法，编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词，进而高质量的帮助用户通过AI解决问题。
项目地址：https://github.com/langgptai/LangGPT/blob/main/README_zh.md
在线使用：https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0