🌟 项目简介
一个轻量级、支持全链路且易于二次开发的大模型应用项目
基于 Dify 、Ollama&Vllm、Sanic 和 Text2SQL 📊 等技术构建的一站式大模型应用开发项目，采用 Vue3、TypeScript 和 Vite 5 打造现代UI。它支持通过 ECharts 📈 实现基于大模型的数据图形化问答，具备处理 CSV 文件 📂 表格问答的能力。同时，能方便对接第三方开源 RAG 系统 检索系统 🌐等，以支持广泛的通用知识问答。
作为轻量级的大模型应用开发项目，Sanic-Web 🛠️ 支持快速迭代与扩展，助力大模型项目快速落地。🚀
🌈 Live Demo
在线体验即将上线，敬请期待！
- 核心技术栈：Dify + Ollama + Sanic + Text2SQL + LLM
- UI 框架：Vue 3 + TypeScript + Vite 5
- 数据问答：集成 ECharts大模型实现Text2SQL轻量级的图形化数据问答展示
- 表格问答：支持 CSV格式文件的上传与基于大模型总结预处理和Text2SQL的表格数据问答
- 通用问答：支持通用数据形式问答基于对接三方RAG系统+公网检索模式
- 应用架构：作为一个轻量级全链路一站式大模型应用开发框架方便扩展落地
- 灵活部署：支持大模型应用开发各依赖组件docker-compose一键拉起快速部署零配置
在开始之前，请确保您的开发环境满足以下最低配置要求：
- 操作系统：Windows 10/11, macOs M系列, Centos/Ubuntu
- GPU: 本地使用ollama部署，推荐使用Nvidia显卡或单CPU模式。
- 内存：8GB+
- Python 3.8+
- Poetry 1.8.3+
- Dify 0.7.1+
- Mysql 8.0+
- Node.js 18.12.x+
- Pnpm 9.x
📚 大模型部署
- 参考Ollama官网部署
- 模型: Qwen2.5
-
本地容器部署
- 为了兼顾第一次接触大模型应用的同学，我们提供了一键拉起Dify服务零配置，同时启动服务方式，方便大家快速体验。
- Dify本机访问地址：http://localhost 账号:admin 密码:admin123
# 拉起内置的dify服务 cd docker/dify/docker docker-compose up -d
-
已安装Dify环境&本地开发调试
- 第一步直接导入项目根目录下的docker/dify/数据问答.yml画布至Dify同时修改源码DiFyAppEnum枚举里的DATABASE_QA密钥Key
- 第二步修改项目根目录下的.env文件，根据环境修改实际的Dify Rest服务接口地址即可
- 第三步修改Dify画布里HttpRequest配置，修改url地址为具体sanic-web服务地址
-
安装最新版本Dify
- 如果需要安装最新版Dify的同学,可以参考官方文档Dify官方文档。
- 具体步骤如下：
- 克隆仓库
git clone https://github.com/apconw/sanic-web.git
- 启动服务
# 拉起前后端服务和中间件 cd docker docker compose up -d
- 数据初始化
cd docker ./init.sh 或执行 cd docker python3 ../common/initialize_mysql.py
- 访问服务
- 需要安装项目所有前置依赖、参考上面前置条件、Dify环境配置。
- 同时需要编辑项目根目录下的.env文件，修改ENV=dev，并保存。
- 后端依赖安装
- poetry安装 参考poetry官方文档
# 安装poetry pip install poetry # 安装依赖根目录执行 # 设置国内仓库 poetry source add --priority=default mirrors https://pypi.tuna.tsinghua.edu.cn/simple/ poetry install
- 初始化数据库
cd docker ./init.sh 或执行 cd docker python3 ../common/initialize_mysql.py
- 前端依赖安装
- 前端基于chatgpt-vue3-light-mvp开源项目参考chatgpt-vue3-light-mvp安装
# 安装前端依赖&启动服务 cd web pnpm i pnpm dev
- 访问服务
- 编辑项目根目录下的.env文件，修改ENV=test，并保存。
- 执行构建命令：
# 构建前端镜像 make web-build # 构建后端镜像 make server-build
如果你喜欢这个项目或发现有用，可以点右上角 Star 支持一下，你的支持是我们不断改进的动力，感谢！ ^_^
如果你觉得这个项目对你有帮助，或者你喜欢我们所做的事情，欢迎点击右上角的 [⭐️ Star] 按钮来支持我们！你的每一个星标都是对我们莫大的鼓励，也是我们不断改进和发展的动力。感谢你的支持！ ^_^
此外，如果你有任何建议或想参与项目的发展，也非常欢迎你通过以下方式联系我们：
- 提交Issue - 如果你发现了任何问题或有改进建议，可以在 Issues 中提交。
- 加入讨论 - 可以添加加入我们讨论群，进行交流讨论。 参与讨论。
- 贡献代码 - 如果你有兴趣贡献代码，可以参考 贡献指南。
再次感谢你的支持！ 🙏
- 大模型应用交流群欢迎大家, 欢迎加进群讨论分享经验
| 微信群 | 钉钉群 |
|---|---|
 |
 |
MIT License | Copyright © 2024-PRESENT AiAdventurer