Zilliz 大模型生态矩阵再迎新伙伴! 近日,Zilliz 和 Dify.AI 达成合作,Zilliz 旗下的产品 Zilliz Cloud、Milvus 与开源 LLMOps 平台 Dify 社区版进行了深度集成。
Dify 作为开源的 LLMs App 技术栈,在此前已支持丰富多元的大型语言模型的接入,除了 OpenAI、Anthropic、Azure OpenAI、Hugging face、Replicate 等全球顶尖模型及模型托管平台,也完成了国内主流的各大模型支持(如 讯飞星火、文言一心、智谱 AI 等)。
而 Zilliz Cloud 和 Milvus 则是向量数据库的领先代表。其中,Milvus 是全球最受欢迎、迭代最快、架构最成熟的开源向量数据库,拥有庞大的开发者社区,开源 4 年来下载量已超 600 万次,得到了来自全球数千家企业用户的信赖。Zilliz Cloud 是基于 Milvus ,并由原厂打造的全托管 SaaS 及 PaaS 向量数据库服务产品,提供深度优化、开箱即用的向量数据库体验。使用 Zilliz Cloud 可以轻松构建十亿级向量数据库,部署和扩展向量搜索服务。由全球顶尖的向量数据库团队 Zilliz 提供运维、优化、及综合支持。 目前,Zilliz Cloud 已在全球上线,覆盖 AWS、GCP、Azure、阿里云、百度云等。
在顶级云原生向量数据库与 LLMs APP 技术栈的双重加持下,用户不仅可以轻松提升 AI 应用的开发效率,同时还能解锁更多向量数据库的应用场景。
具备知识库的 AI Chatbot 已然是当下基于大模型技术实现及应用最多的情景,接下来,我们将以制作一个具备 Dify 产品及团队知识背景的 AI 应用为例,为大家介绍如何从零开始,用 3 步搭建一个具备企业知识库的 AI 应用。
在本次实操演示中,我们采用 Dify.AI 社区版进行部署,以接入 Zilliz Cloud 为例。第一步,需要前往 Zilliz 注册,并创建 Zilliz Cloud 的 Cluster。
在 GitHub 下载 Dify 镜像文件,将 docker-compose.yaml 文件中的 api 和 worker 服务的 Environment 中 Zilliz Cloud 的相关配置改为您的正确配置(如下),并保存。
SQLVECTOR_STORE: milvusMILVUS_HOST: https://in01-dd41b30632904e4.ali-cn-hangzhou.vectordb.zilliz.com.cn:19530MILVUS_PORT: 19539MILVUS_USER: db_adminMILVUS_PASSWORD: (注册时的密码)MILVUS_SECURE: True
更详细的 Dify 的本地部署文档可参考:https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted/docker-compose(注:Zilliz Cloud 和 Milvus 接口兼容,MILVUS_HOST、MILVUS_PORT 后面既可以填 Milvus 的 host、port,也可以填 Zilliz Cloud 的 host、port。)
执行:docker-compose -f docker-compose.yaml up -d 用以启动 Dify 基础服务组件。
03 创建带有知识库的 AI 应用
浏览器输入 http://127.0.0.1/:80 ,注册登录。
创建数据集,这里示例上传了【Dify 团队介绍】作为知识库数据。
配置应用,撰写相关 Prompt,在上下文处选取上传的数据集,选择模型(这里我们选择智谱模型 ChatGLM),发布。
至此,一个具备 Dify 产品和团队知识的 AI 应用就已经创建完成。
不止如此,双方在深度合作的基础上,还联合极客公园 Founder Park、智谱 AI 等,共同发起 AGI Playground Hackathon,旨在重新思考 AI Native 时代下的应用和服务,解决共同的行业发展问题。届时,Dify 将为参赛者提供接入了智谱 AI 模型与 Zilliz Cloud 的预置环境,大大提升开发效率和应用的价值,让参赛者可以有更多精力关注产品创意。
AGI 时代已至,Zilliz 与 Dify的结合为 AI 应用开发带来了更多可能性,双方在未来也将继续深入合作,挖掘 AI 创新应用的更多潜能。同时,Zilliz 作为向量数据库赛道的佼佼者,一方面仍将坚持在领域内深耕,不断进行技术迭代;另一方面,Zilliz 也期待更多合作伙伴的加入,携手探索 AGI 的未来,推动 AI 技术向着更广阔的应用领域发展。
文章来自 “ IT新闻网 ”
【开源免费】FASTGPT是基于LLM的知识库开源项目,提供开箱即用的数据处理、模型调用等能力。整体功能和“Dify”“RAGFlow”项目类似。很多接入微信,飞书的AI项目都基于该项目二次开发。
项目地址:https://github.com/labring/FastGPT
【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。
项目地址:https://github.com/microsoft/graphrag
【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。
项目地址:https://github.com/langgenius/dify
【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。
项目地址:https://github.com/infiniflow/ragflow/tree/main
【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目
项目地址:https://github.com/phidatahq/phidata
【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。
项目地址:https://github.com/TaskingAI/TaskingAI
【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。
项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md
在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0