哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AITNT-国内领先的一站式人工智能新闻资讯网站 搜索
哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新
5708点击    2025-04-23 09:45

你是否正在投入大量资源开发基于MCP的Agent,却从未质疑过一个基本假设:MCP真的比传统函数调用更有优势吗? 2025年4月的这项开创性研究直接挑战了这一广泛接受的观点,其执行摘要明确指出:"使用MCPs并不显示出比函数调用有明显改进"。令人震惊的是,研究发现Qwen Web Search函数调用的准确率达到55.52%,实际上超过了包括Exa Search、DuckDuckGo、Tavily和Brave Search在内的多个MCP服务器!同时,不同MCP服务器之间的性能差异高达50%以上,从Bing Web Search的64%准确率到DuckDuckGo的仅13.62%。这项发布于GitHub的MCPBench评估框架,首次系统性地将MCP任务分为"数据获取"和"世界改变"两大类,并重点评估了前者。研究者在MySQL 9.2和PostgreSQL 15.8环境中进行了严谨测试,发现了提升MCP性能的关键:将复杂的参数构建(如SQL语句)从LLM移至服务端的声明式接口,在PostgreSQL实验中提升了惊人的22个百分点!无论你是正在选择MCP服务还是思考如何优化现有架构,这篇对既有假设的挑战不仅提供了全面的性能数据,还通过详实的案例研究(涵盖Frames、中文新闻、SQL_EVAL等多个数据集和多种服务实现)揭示了背后的设计原则。未来已来,一起来!


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


MCP协议的崛起与挑战


Model Context Protocol(MCP)作为一个开放协议,使AI模型能够通过标准化服务器实现安全地与本地和远程资源交互。在近几个月,已有数千个MCP被提出,同时OpenAI和阿里云等多个模型平台宣布在其LLM产品中支持MCP。你可能已经注意到MCP协议正在迅速普及,但作为开发Agent产品的工程师,你是否曾思考过不同MCP服务器的实际表现如何?它们在效率和效果上是否存在显著差异?更重要的是,MCP是否真的比传统的函数调用方式有明显优势?


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


研究背景:MCPBench评估框架


研究者设计了一个名为MCPBench的评估框架,用于测试各种MCP服务器在准确性时间消耗令牌使用量方面的表现。


项目地址:https://github.com/modelscope/MCPBench


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


这一评估聚焦于两个关键任务:


  • Web搜索

(从互联网获取信息回答问题)

  • 数据库搜索

(从数据库中查询数据)


研究者确保所有MCP服务器都在相同的环境中使用相同的LLM和提示,以确保评估的公平性和可靠性。


任务与数据集:全面评估MCP的能力


研究中的Web搜索任务要求LLM将问题重写为关键词或简短句子,然后使用工具搜索互联网并返回结果。为消除数据集偏差,研究者引入了多种数据源,包括中文和英文语言的各个领域,如下表所示的从Frames开源数据集(100条)、中文新闻(100条)和中文知识领域(100条)收集的数据。而数据库搜索任务则要求LLM通过数据库MCP服务器从数据库中检索数据,使用的数据源包括合成的汽车制造商数据源(355条)和基于Spider架构的SQL_EVAL数据集(256条)。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


MCP服务器概述:多样化的搜索解决方案


研究者从GitHub和Smithary.AI收集了多种MCP服务器,并选择了那些在2025年4月有较多调用记录的服务器进行评估。


Web搜索相关的MCP服务器:


  • Brave Search
  • DuckDuckGo Search Server
  • Tavily MCP Server
  • Exa Search
  • Fire Crawl Search
  • Bing Web Search
  • BochaAI


这些服务器都提供Web搜索功能但使用不同的搜索引擎和数据处理方法。


Web搜索相关的函数调用:


  • Qwen Web Search
  • Quark Search


数据库搜索相关的MCP服务器:


  • XiYan MCP Server
  • MySQL MCP Server
  • PostgreSQL MCP Server


它们提供与数据库交互的不同方式和接口。


评估标准:全方位衡量性能


研究采用了多维度的评估标准:


  1. 准确性:由DeepSeek-v3作为评分者评估答案的正确性
  2. 时间消耗:记录LLM和MCP服务器的端到端延迟
  3. 令牌消耗:记录预填充和完成令牌的使用


此外,实验在新加坡的双核CPU、2GB RAM服务器上执行,所有MCP服务器(除DuckDuckGo外)都以SSE模式在服务器上启动,超时设置为30秒,这确保了评估结果的一致性和可比性。


评估结果分析:MCP服务器的惊人差异


研究结果显示,不同MCP服务器在效果和效率方面存在显著差异,如下表所示:


  1. 效果差异:Bing Web Search达到最高的64%准确率,而DuckDuckGo仅有13.62%,相差超过50个百分点
  2. 效率差异:更加明显 - Bing Web Search和Brave Search处理时间不到15秒,而Exa Search则需要231秒,这些数值均基于正常返回而非超时的有效样本。
  3. 令牌消耗:相对一致,输出令牌通常在150到250之间,表明模型始终提供简洁答案而不会不必要地解释其MCP使用情况。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


MCP vs 函数调用:出人意料的对比结果


研究者将MCP服务器与函数调用的性能进行了比较,结果令人意外,如下图和下表所示:


  • 函数调用(Qwen Web Search)和工具使用(Quark Search)展现出具有竞争力的准确性和时间消耗
  • Qwen Web Search的准确率达到55.52%,超过了Exa Search、DuckDuckGo、Tavily和Brave Search
  • 函数调用(Qwen Web Search和Quark Search)与MCP服务相比,在时间消耗上并没有显著差异


这表明MCP并不一定在各方面都优于传统的函数调用方式。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


性能优化策略:声明式接口的力量


研究者探索了如何提高MCP服务器性能,关注点放在数据库搜索任务上。他们发现:


  • MySQL MCP服务器等简单封装的数据库连接,将构建SQL查询语句这一最具挑战性的部分交给了LLM,导致整个工具调用的成功高度依赖于LLM构建SQL语句的能力
  • 解决方案:研究者引入了声明式接口方法,用自然语言代替MCP中的结构化参数
  • 实现:创建了名为XiYan MCP服务器的更新版本,使用自然语言而非SQL作为接口
  • 效果:如下表所示,这种优化在MySQL实验中提高了2个百分点的准确性,在PostgreSQL实验中则提高了22个百分点


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


Web搜索案例分析:不同服务的结果对比


为深入了解不同Web搜索服务的性能差异,研究者使用Frames数据集评估了Brave Search、BochaAI和Qwen Web Search的搜索性能:


Brave Search


如下图所示,提供了前十个相关的wiki百科页面,包括标题、描述和URL,但缺乏详细描述使LLM难以有效地将问题与相关搜索结果联系起来


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


BochaAI


如图4所示,总结了搜索结果并明确告知LLM正确答案是"Crimson Tide",这种直接方法使LLM能够准确无误地提供正确答案。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


Qwen Web Search


尝试分析和总结搜索结果,但产生了不正确的结果,且没有向LLM展示原始搜索结果,大大阻碍了LLM推导正确答案的能力。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


数据库搜索案例分析:声明式接口的优势


研究者使用SQL_EVAL数据集评估了PostgreSQL MCP Server和XiYan MCP Server在数据库搜索任务上的性能差异:


PostgreSQL MCP Server


如下图所示,通过接收LLM生成的SQL查询语句,执行查询并返回结果,实际上只处理数据库连接和执行SQL查询。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


XiYan MCP Server


如下图所示,设计为直接接受原始问题作为输入,在服务器内部完成SQL生成和执行过程,输出为数据库查询结果,然后由LLM推导最终答案。这种声明式接口方法显著提高了性能,特别是在复杂查询场景中。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新


写在最后:优化MCP的启发


研究结果清晰地表明以下关键发现:


  1. 各种MCP服务器在效果和效率方面存在显著差异
  2. MCP并未始终表现出比非MCP方法(如函数调用)的明显改进
  3. 最重要的发现:通过优化LLM需要构建的参数,可以大幅提高MCP服务器的准确性


对你作为开发Agent产品的工程师而言,这一研究提供了宝贵的指导原则:


  • 在选择MCP服务器时,应综合考虑其效果和效率
  • 应关注降低LLM在参数构建方面的挑战
  • 考虑使用自然语言作为接口替代复杂的结构化参数
  • 重视搜索结果的处理和分析,因为这直接影响LLM推导正确答案的能力


通过这些优化,你可以显著提升Agent产品的性能和可靠性。


文章来自于“AI修猫Prompt”,作者“AI修猫Prompt”。


哇!首个MCPBench来了,MCP竟然不比Function Calls更有优势? | 最新

关键词: AI , MCPBench , MCP , 人工智能
AITNT-国内领先的一站式人工智能新闻资讯网站
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI数据分析

【开源免费】DeepBI是一款AI原生的数据分析平台。DeepBI充分利用大语言模型的能力来探索、查询、可视化和共享来自任何数据源的数据。用户可以使用DeepBI洞察数据并做出数据驱动的决策。

项目地址:https://github.com/DeepInsight-AI/DeepBI?tab=readme-ov-file

本地安装:https://www.deepbi.com/

【开源免费airda(Air Data Agent)是面向数据分析的AI智能体,能够理解数据开发和数据分析需求、根据用户需要让数据可视化。

项目地址:https://github.com/hitsz-ids/airda

2
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

3
AI搜索

【开源免费】MindSearch是一个模仿人类思考方式的AI搜索引擎框架,其性能可与 Perplexity和ChatGPT-Web相媲美。

项目地址:https://github.com/InternLM/MindSearch

在线使用:https://mindsearch.openxlab.org.cn/


【开源免费】Morphic是一个由AI驱动的搜索引擎。该项目开源免费,搜索结果包含文本,图片,视频等各种AI搜索所需要的必备功能。相对于其他开源AI搜索项目,测试搜索结果最好。

项目地址:https://github.com/miurla/morphic/tree/main

在线使用:https://www.morphic.sh/

4
prompt

【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。

项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md

在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0