Asistente de datos de modelo grande
? Introducción del proyecto
Un proyecto de aplicación a gran escala liviano, de enlace completo y fácil de desarrollar a gran escala
Un proyecto de desarrollo de aplicaciones de gran modelo de una ventaja basada en tecnologías como DIFY, OLLAMA & VLLM, SANIC y Text2SQL, utilizando Vue3, TypeScript y Vite 5 para crear una UI moderna. Admite respuestas de datos gráficos basados en grandes modelos a través de Echarts?, Y tiene la capacidad de procesar preguntas y respuestas de la tabla de archivos CSV. Al mismo tiempo, puede ser conveniente conectarse a sistemas de recuperación de RAG de código abierto de terceros, etc. para respaldar una amplia gama de preguntas y respuestas de conocimiento general.
Como un proyecto de desarrollo de aplicaciones de gran modelo liviano, SANIC-WEB respalda la rápida iteración y la expansión, ayudando a los grandes proyectos modelo a implementarlos rápidamente.
? Demostración en vivo
La experiencia en línea está a punto de ser lanzada, ¡así que estad atentos!
Solución de arquitectura

? característica
- Core Technology Stack : Dify + Ollama + Rag + LLM + Text2SQL
- Marco de UI : Vue 3 + TypeScript + Vite 5
- Preguntas y respuestas de datos : modelo integrado Echarts para realizar la pantalla de preguntas y respuestas de datos gráficos ligeros de Text2SQL
- Preguntas y respuestas de la tabla : admite la carga de archivos de formato CSV y preprocesamiento basado en un gran resumen del modelo y a las preguntas y respuestas de la tabla Text2SQL
- Preguntas y respuestas generales : Admite preguntas y respuestas de formulario de datos generales basados en el acoplamiento del sistema de trapo de tres partes + Modo de recuperación de redes públicas
- Arquitectura de aplicaciones : como un marco de desarrollo de aplicaciones de modelos único de luz completa ligera ligera, expansión e implementación convenientes
- Implementación flexible : admite dependencias de desarrollo de aplicaciones a gran escala de varios componentes compuestos de Docker con un solo clic para implementar rápidamente la configuración cero
Efecto de ejecución




Requisitos de configuración del entorno
Antes de comenzar, asegúrese de que su entorno de desarrollo cumpla con los siguientes requisitos mínimos de configuración:
- Sistema operativo : Windows 10/11, MacOS M Series, Centos/Ubuntu
- GPU : Use Ollama para implementar localmente, y se recomienda usar la tarjeta gráfica NVIDIA o el modo CPU.
- Memoria : 8GB+
? Pre-condiciones
- Python 3.8+
- Poesía 1.8.3+
- DiFy 0.7.1+
- Mysql 8.0+
- Node.js 18.12.x+
- PNPM 9.X
Implementación de modelo grande
- Consulte el despliegue de Ollama
- Modelo: Qwen2.5
Configuración del entorno DIFY
Use los scripts de proyecto para instalar DIFY por defecto
- Para tener en cuenta a los estudiantes que están expuestos a grandes aplicaciones de modelos por primera vez, este proyecto proporciona una configuración de Service Zero de un solo clic y también inicia el método de servicio para facilitar a todos que lo experimenten rápidamente.
- DIRECCIÓN DE ACCESO LOCAL DIFY: http: // Cuenta localhost: [email protected] Contraseña: Admin123
# 拉起内置的dify服务
cd docker/dify/docker
docker-compose up -d
Si se ha instalado el entorno diferente
- Si ya tiene un entorno diferente, solo puede modificar el código fuente localmente en este caso para iniciar el servicio.
- El primer paso es importar directamente las preguntas y respuestas de Docker/DiFy/Data en el directorio raíz del Project.yml Canvas a DiFy
- El segundo paso es modificar la tecla Database_QA en el código fuente Difyappenum enum ( la clave se obtiene del lienzo de proceso Diify )
- El tercer paso es modificar el archivo .env en el directorio raíz del proyecto y modificar la dirección de interfaz de servicio de descanso de DiFy real de acuerdo con el entorno.
- Paso 4 Modifique la configuración HTTPRequest en DiFy Canvas y modifique la dirección de URL a la dirección de servicio SANIC-WEB específica
Instale la última versión de DIFY
- Si necesita instalar la última versión de DIFY, puede consultar el documento oficial de DOCTO Document Document.
Experiencia rápida
- Los pasos específicos son los siguientes:
- El primer paso es clonar el código al área local.
- El segundo paso es consultar la implementación del modelo grande anterior. Primero instale Ollama para implementar el modelo Qwen2.5.
- El tercer paso es referirse directamente a la configuración de entorno DIFY en la configuración de entorno DIFY anterior. En el primer caso, [usar scripts de proyecto para instalar DIFY por defecto] ¡ es muy importante!
- Los pasos específicos para comenzar el servicio en el cuarto paso son los siguientes:
- Clonación del repositorio
git clone https://github.com/apconw/sanic-web.git
- Iniciar el servicio
# 拉起前后端服务和中间件
cd docker
docker compose up -d
- Inicialización de datos
cd docker
./init.sh
或执行
cd docker
python3 ../common/initialize_mysql.py
- Servicios de acceso
- Servicio frontal: http: // localhost: 8081
Desarrollo local
- El primer paso es clonar el código al área local.
- El segundo paso es consultar la implementación del modelo grande anterior. Primero instale Ollama para implementar el modelo Qwen2.5.
- El tercer paso es configurar el entorno de desarrollo local Dify Entorny. Consulte la configuración de entorno DIFY anterior. Puede elegir las situaciones de primera o segunda por usted mismo.
- Paso 4: Edite el archivo .env en el directorio raíz del proyecto, modificar env = dev e información de configuración de la base de datos.
- Paso 5: Instale las dependencias del proyecto frontal y back-end e inicie los servicios frontales y de fondo. Los pasos específicos son los siguientes:
- Instalación de dependencia del backend
- Referencia de instalación de poesía Documentación oficial de poesía
# 安装poetry
pip install poetry
# 安装依赖根目录执行
# 设置国内仓库
poetry source add --priority=default mirrors https://pypi.tuna.tsinghua.edu.cn/simple/
poetry install
- Instale la base de datos
docker run --name mysql-local
-p 13006:3306
-v /Users/lihuan/docker-mount/mysql:/var/lib/mysql
-e MYSQL_ROOT_PASSWORD=1
-d mysql:latest
- Inicializar la base de datos
- Si usa el entorno local MySQL, debe modificar el código fuente Initialize_mysql al inicializar los datos y modificar la información de conexión de la base de datos.
cd docker
./init.sh
或执行
cd docker
python3 ../common/initialize_mysql.py
Instalación de dependencia frontal
- El front-end se basa en proyectos de código abierto. Puede consultar ChatGPT-Vue3-Light-MVP para instalar la segunda apertura.
# 安装前端依赖&启动服务
cd web
#安装依赖
npm install -g pnpm
pnpm i
#启动服务
pnpm dev
Iniciar servicio de back -end
Servicios de acceso
- Servicio delantero: http: // localhost: 2048
? Construir un espejo
- Edite el archivo .env en el directorio root del proyecto, modifique env = test y save.
- Ejecutar el comando de compilación:
# 构建前端镜像
make web-build
# 构建后端镜像
make server-build
? apoyo
Si le gusta este proyecto o lo encuentra útil, puede hacer clic en Star en la esquina superior derecha para soportarlo. Su apoyo es nuestra fuerza impulsora para una mejora continua, ¡gracias! ^_^
Si le resulta útil para usted, o le gusta lo que hacemos, haga clic en el botón [️ Star] en la esquina superior derecha para apoyarnos. Cada estrella tuya es un gran estímulo para nosotros y también es la fuerza impulsora para nuestra mejora y desarrollo continuos. ¡Gracias por su apoyo! ^_^
Además, si tiene alguna sugerencia o desea participar en el desarrollo del proyecto, también puede contactarnos a través de los siguientes métodos:
- Envíe un problema : si encuentra algún problema o tiene sugerencias de mejora, puede enviarlo en problemas.
- Únase a la discusión : puede agregar a nuestro grupo de discusión para comunicarse y discutir. Participe en la discusión.
- Código de contribución : si está interesado en contribuir con el código, puede consultar la Guía de contribución.
¡Gracias de nuevo por su apoyo!
Grupo de comunicación de control de calidad
- Bienvenido a The Big Model Application Exchange Group, bienvenido a unirse al grupo para discutir y compartir experiencia
- Siga la cuenta oficial a continuación y haga clic en el menú del Grupo WeChat para agregar WeChat para llevarlo al grupo
| Grupo de WeChat |
|---|
 |
Licencia
Licencia MIT | Copyright © 2024-presente Aiadventurer