- LLM端:大模型,比如我们用
deepseek,kimi聊天,这些就是大模型端。 - mcp服务器:和我们通常概念里面的服务器是一个意思,通常我们的服务器是运行在远端的,比如阿里云的云主机上面,不间断的对外提供服务。 mcp服务器对外是提供MCP协议相关的服务。
- mcp客户端:客户端充当一个大模型和mcp服务器之间的一个桥梁,客户端把所有自己知道的mcp服务器分类好整理好变成一个工具列表提交给大模型,大模型发现有自己不能完成的任务的时候,就会去这个工具列表里面查找,如果找到就会通知客户端去调用大模型指定的工具,客户端再把调用结果和用户输入重新提交给大模型,大模型处理后发给用户。
python版本>=3.12。
安装uv工具,uv是一个python的包管理工具。
安装node,用来运行调试工具。
创建项目:
#创建项目目录 mkdir mcp_demo #导航到项目根目录 cd mcp_demo #初始化项目目录 uv init #或 下面两条命令和上面三条一样 uv init mcp_demo cd mcp_demo #创建虚拟环境并激活 uv venv source .venv/bin/activate #安装依赖 uv add "mcp[cli]" httpx openai
创建一个文件server.py,我们把mcp服务器的代码都写在里面。
关键要点:
- 创建服务器实例:
mcp = FastMCP("weather") - 用装饰器创建tool工具:
@mcp.tool() - 最后在main里面运行起来:
mcp.run(transport='stdio')
为了方便例子里面使用的kimi的web_search功能来获取实时外部数据。
可以按需替换成自己方便获取实时数据的方式,比如调用付费的搜索api接口等。
先执行uv run server.py看下程序有没有问题。
然后我们用inspector来调试,运行下面的命令:
npx -y @modelcontextprotocol/inspector uv run server.py
浏览器打开http://127.0.0.1:6274。
左侧Transport Type选STDIO, 点击connect,连接成功会有个绿色的点提示。
右侧顶部切换到Tools => List Tools,然后下面就会列出web_search工具了。
点击web_search,最右侧出现输入框,输入我们的搜索的内容,点击Run Tool按钮就会执行我们写的工具了,结果会输出在按钮下方。
打印的日志会出现在下面的Server Notifications里面。
上面编写的web_search调试好没问题后,可以配置到vscode的Cline插件里面使用。
配置格式:
{ "mcpServers": { "<server-id>": { // 自定义,仅做显示,如 "sqlite"、"brave-search" /* 通用字段 */ "command": "", // 启动命令:npx / uvx / node / python 等 "args": [], // 传给启动命令的参数列表 "env": {}, // 环境变量,最常见的就是放各种 API_KEY "transportType": "stdio", // 固定写 stdio / streamable_http "timeout": 60, // 单次调用超时(秒),可省略,默认 60 "disabled": false, // true = 停用但不删除配置 "autoApprove": [] // 可自动批准的 tool 名称列表,省略则全部需手动确认 } } }
配置:
使用:输入问题北京今天的天气?:
它提示我们需要使用web_search来获取实时数据,点击下面的approve按钮同意执行。
Cline最终把mcp server的响应和大模型的总结都输出来了。
上面是放在Cline里面运行,因为Cline里面已经包含了MCP客户端实现。
客户端的功能是把配置启用了的mcp server信息都收集起来,发送给大模型,大模型发现有自己不知道的信息的时候,就会通知客户端去调用mcp server去获取想要的信息。
调用哪个mcp服务器和参数都是大模型决定的,客户端只是执行的角色,相当于一个中间层,把mcp服务器和大模型连接了起来。
可用MCP Server发送给LLM的方法有两种:
- 实际使用的api里面有工具参数,按照实际使用的LLM的api格式来发送和处理响应,这种就是按照实际使用的LLM厂商的格式来,不同的LLM可能会有微小差异,接入不同的厂商可能需要适配。
- 通过role=system的消息发送,把可用的mcp工具列表,返回格式,调用结果的提交格式,问答结束的格式等放在发送给LLM的system消息里面,这种就是相当于自己和LLM约定了一个协议,比较个性化通用,和具体的厂商无关。
具体代码demo看client.py文件,里面有注释。
uv run ./client.py server.py
上图最下面虚线部分是一次对话的最终结果。
工具(tool)是用的比较多的MCP服务器功能,还有一些其他类型的功能可用。
简单的示例在server.py里面。
资源是指可以公开给LLM的数据和内容,可以是任意类型的数据。
比如:
- 文件内容
- 图像内容
- 日志文件
- 等等......
资源是用URI来标识的,比如:
- 本地文件:
file:///home/user/documents/report.pdf - 数据库:
postgres://database/customers/schema
URI里面的协议和路径由MCP服务器自己实现定义。
客户端需要使用资源的时候用URI发起read请求来读取资源的内容。
提示则是预定义的一些提示词,可以是动态的,也可以是静态的。
采样则是服务器通过客户端请求LLM补全内容。
客户端可以对请求和结果进行审核和修改。
这里的服务器指的是通常的应用服务器,比如聊天机器人,数据分析系统。
客户端可以是自定义的或者是MCP客户端。
客户端相当于是一个代理,应用系统不能直接访问LLM而是需要通过客户端来访问,客户端可以对请求和响应内容做控制,从而达到保护数据安全和隐私的作用,主要是可控的交互。
上面示例MCP客户端和服务器之间的通信是通过标准输入输出(stdio)来进行的,还有另一种传输方式HTTP(streamable_http)。
工作模式:
- 客户端到服务器:Http POST JSON-RPC消息
- 服务器响应:可以是简单的JSON数据或者SSE数据流
示例:
启动服务器:uv run server_stream.py,会提示监听在8000端口。
然后启动inspector调试:npx -y @modelcontextprotocol/inspector。
如果需要token访问,inspector会打印在控制台,直接复制控制台的链接访问即可。
客户端访问服务器默认的地址路径是/mcp,所以访问URL是http://localhost:8000/mcp。
自定义客户端连接:uv run client_stream.py