document document development

基础指令 AgentCraft 论文翻译

知识库问答 AgentCraft 知识库问答 AI工具 AgentCraft 函数智能助手

1 基础模型托管及扩展

• 提供 通义千问、ChatGLM2-6b、ChatGLM3-6b、llama2(in4 量化 13b)、Stable-diffusion等基础模型的一键部署
• 支持基础模型的公开访问API
• 支持托管任意模型的代理服务函数比如ChatGPT
• 提供扩展自定义模型,开放构建模型镜像的源码
• 模型服务计费,日志查看等

2 数据集

• 支持精准问答数据集和文档数据集混合使用
• 支持数据集自动向量化处理
• 支持多种源文件类型录入
• 支持手动输入单文档数据源或者QA数据源
• url 读取,本地目录上传
• mysql, oss等多数据源动态导入

3 智能体编排和调试

• 支持实时调试知识库等智能体效果
• 支持问答记录查询,修正
• 支持提示词预置模版
• 支持指令、LLM、数据集自由组合
• 指令、LLM、数据集、工具,上下文自由组合
• 工具能力在线构建和发布
• 可视化编排Agent

4 API透出

• 支持 Agent Api token访问
• 接入网关增强 安全,限流等能力

5 客户端连接

• 提供引导式方案接入钉钉机器人
• 提供微信个人助手一键部署服务
• 提供独立web站一键部署服务
• 嵌入脚本,sdk等接入方式
• 其他平台对接

6 生成式UI

• 支持内置自定义渲染组件
• 支持自定义组件LUI渲染
• 生成式UI能力集成

• 云端 AgentCraft 基于Serverless架构构建,在阿里云函数计算上提供一键部署应用的模版,帮助您快速部署专属的服务,您可以随时进行公共服务转化,详情参考

• 私有化

  使用docker-compose.yml 一键部署AgentCraft 服务,请确保已经安装了Docker 和 Docker Compose 如果您需要访问插件扩展能力以及接入钉钉微信登能力,需要补充docker-compose.yml 中阿里云环境变量相关的信息 如 MAIN_ACCOUNT_ID、 ALIBABA_CLOUD_ACCESS_KEY_ID、 ALIBABA_CLOUD_ACCESS_KEY_SECRET 不需要请直接执行

 docker compose up -d

克隆本项目到本地

git clone https://github.com/devsapp/agentcraft.git

部署后端服务需要先准备好embedding 和 pg

• 云端创建,访问函数计算embedding应用模版一键创建,并获取域名
• 本地创建, 执行docker-compose up embedding -d, 该服务地址为 http://localhost:8001/embedding

• 云端创建, 通过RDS PostgreSQL实例 https://rdsbuy.console.aliyun.com/create/rds/mysql?spm=5176.19907444.0.0.64b11450FHIgeU 获取,相关教程参考
• 本地创建,执行docker-compose up pg -d

# 注python 版本 >= 3.11
cd agentcraft/src/agentcraft-all/agentcraft-be
cp .env.example .env
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt
export PYTHONPATH="${PYTHONPATH}:$(pwd)"
python3 -u app/main.py

cd agentcraft/src/agentcraft-all/agentcraft-fe
cp .env.example .env
npm install -f
npm run dev

与同类智能体平台相比,AgentCraft最大的特性在于构建跟云上资源的链接,提供云上资源管理能力,可以构建和部署任意需要被依赖的组件,比如基础模型、数据持续集成、自定义AI工具、客户端接入、工作流等,皆在帮助企业级开发者自由构建可以落地到业务里的AI应用

欢迎为AgentCraft贡献,一起推进AI应用的落地。 欢迎各种方式的贡献,提交代码、问题、新想法.

如果您有任何问题、建议或合作意向,可以用以下方式联系我们:

• GithubRepo 提交 Issue 或 PR
• 加入AgentCraft 项目交流钉群讨论 dingtalk

本软件使用以下开源软件

• Nextjs [nodejs]
• FastApi [python]
• LangChain

Apache2.0协议