홈페이지>프로그래밍 관련>AI 소스 코드
다운로드

큰 모델 데이터 어시스턴트

? 프로젝트 소개

가볍고 풀 링크 및 2 차 개발하기 쉬운 대규모 응용 프로그램 프로젝트

Vue3, TypeScript 및 Vite 5를 사용하여 Dify, Ollama & Vllm, Sanic 및 Text2SQL과 같은 기술을 기반으로 한 원 스톱 빅 모델 애플리케이션 개발 프로젝트. Echarts?를 통한 대형 모델을 기반으로 한 그래픽 데이터 답변을 지원하며 CSV 파일 테이블 질문 및 답변을 처리 할 수 있습니다. 동시에, 광범위한 일반적인 지식 질문과 답변을 지원하기 위해 타사 오픈 소스 Rag 시스템 검색 시스템 등에 연결하는 것이 편리 할 수 있습니다.

Sanic-Web는 가벼운 대형 모델 애플리케이션 개발 프로젝트로서 빠른 반복 및 확장을 지원하여 대형 모델 프로젝트가 신속하게 구현할 수 있도록 도와줍니다.

? 라이브 데모
온라인 경험이 출시 될 예정이므로 계속 지켜봐주십시오!

건축 솔루션

영상

? 특성

  • 핵심 기술 스택 : dify + ollama + rag + llm + text2sql
  • UI 프레임 워크 : vue 3 + typescript + vite 5
  • Data Q & A : Text2SQL Lightweight 그래픽 데이터 Q & A 디스플레이를 실현하는 통합 Echarts 모델
  • 표 Q & A : 큰 모델 요약 및 Text2SQL 테이블 데이터 Q & A를 기반으로 CSV 형식 파일의 업로드 및 전처리를 지원합니다.
  • 일반 Q & A : 도킹 3 파티 래그 시스템 + 공개 네트워크 검색 모드를 기반으로 일반 데이터 양식 Q & A를 지원합니다.
  • 애플리케이션 아키텍처 : 가벼운 풀 링크 원 스톱 대규모 모델 응용 프로그램 개발 프레임 워크, 편리한 확장 및 구현으로서
  • Flexible Deployment : 다양한 구성 요소의 대규모 애플리케이션 개발 종속성을 지원하여 한 번의 클릭으로 Docker-Compose Zero Configuration을 신속하게 배포합니다.

실행 효과

영상영상영상영상

환경 구성 요구 사항

시작하기 전에 개발 환경이 다음과 같은 최소 구성 요구 사항을 충족하는지 확인하십시오.

  • 운영 체제 : Windows 10/11, MacOS M Series, Centos/Ubuntu
  • GPU : Ollama를 사용하여 로컬로 배포되며 NVIDIA 그래픽 카드 또는 CPU 모드를 사용하는 것이 좋습니다.
  • 메모리 : 8GB+

? 사전 조건

  • 파이썬 3.8+
  • 시 1.8.3+
  • dify 0.7.1+
  • MySQL 8.0+
  • node.js 18.12.x+
  • PNPM 9.X

대규모 모델 배포

  • Ollama 배포를 참조하십시오
  • 모델 : Qwen2.5

Dify 환경 구성

  1. 프로젝트 스크립트를 사용하여 기본적으로 dify를 설치하십시오

    • 대형 모델 응용 프로그램에 처음 노출 된 학생들을 처음으로 고려하기 위해이 프로젝트는 한 번의 클릭 DIFY 서비스 제로 구성을 제공하고 서비스 방법을 시작하여 모든 사람이 신속하게 경험할 수 있도록 촉진합니다.
    • Dify Local Access 주소 : http : // localhost 계정 : [email protected] 비밀번호 : admin123 
     # 拉起内置的dify服务
cd docker/dify/docker
docker-compose up -d

  2. Dify 환경이 설치된 경우

    • 이미 Dify Environment가있는 경우이 경우 소스 코드를 로컬로만 수정하여 서비스를 시작할 수 있습니다 !!!
    • 첫 번째 단계는 project.yml 캔버스를 dify로 직접 가져 오는 것입니다.
    • 두 번째 단계는 소스 코드 DifyAppenum enum에서 Database_QA 키를 수정하는 것입니다 ( 키는 Diify Process Canvas에서 얻습니다 ).
    • 세 번째 단계는 프로젝트 루트 디렉토리에서 .env 파일을 수정하고 환경에 따라 실제 Dify Rest 서비스 인터페이스 주소를 수정하는 것입니다.
    • 4 단계 Dify Canvas에서 HTTPrequest 구성을 수정하고 특정 SANIC-WEB 서비스 주소로 URL 주소를 수정합니다.

  3. 최신 버전의 Dify를 설치하십시오

    • 최신 버전의 Dify를 설치 해야하는 경우 공식 문서 Dify 공식 문서를 참조하십시오.

빠른 경험

  • 특정 단계는 다음과 같습니다.
  • 첫 번째 단계는 코드를 지역 영역으로 복제하는 것입니다.
  • 두 번째 단계는 위의 큰 모델 배포를 참조하는 것입니다. 먼저 Ollama를 설치하여 Qwen2.5 모델을 배포하십시오.
  • 세 번째 단계는 위의 Dify Environment 구성 에서 Dify Environment 구성을 직접 참조하는 것입니다. 첫 번째 경우, [프로젝트 스크립트를 사용하여 Dify를 기본적으로 설치] 매우 중요합니다 !!!
  • 네 번째 단계에서 서비스를 시작하기위한 특정 단계는 다음과 같습니다.
  1. 저장소 복제 
    git clone https://github.com/apconw/sanic-web.git
  2. 서비스를 시작하십시오 
     # 拉起前后端服务和中间件
cd docker
docker compose up -d
  3. 데이터 초기화 
     cd docker
./init.sh

或执行

cd docker
python3 ../common/initialize_mysql.py
  4. 액세스 서비스
  • 프론트 엔드 서비스 : http : // localhost : 8081

지역 개발

  • 첫 번째 단계는 코드를 지역 영역으로 복제하는 것입니다.
  • 두 번째 단계는 위의 큰 모델 배포를 참조하는 것입니다. 먼저 Ollama를 설치하여 Qwen2.5 모델을 배포하십시오.
  • 세 번째 단계는 로컬 개발 환경 Dify 환경을 구성하는 것입니다. 위의 DIFY 환경 구성을 참조하십시오. 혼자서 첫 번째 또는 두 번째 상황을 선택할 수 있습니다.
  • 4 단계 : 프로젝트 루트 디렉토리에서 .env 파일을 편집하고 ENV = dev 및 데이터베이스 구성 정보를 수정하십시오 .
  • 5 단계 : 프론트 및 백엔드 프로젝트 종속성을 설치하고 프론트 및 백엔드 서비스를 시작하십시오. 특정 단계는 다음과 같습니다.
  1. 백엔드 종속성 설치
    • 시 설치 참조시 공식 문서 
     # 安装poetry
pip install poetry

# 安装依赖根目录执行
# 设置国内仓库
poetry source add --priority=default mirrors https://pypi.tuna.tsinghua.edu.cn/simple/
poetry install
  2. 데이터베이스를 설치하십시오 
    docker run --name mysql-local 
-p 13006:3306 
-v /Users/lihuan/docker-mount/mysql:/var/lib/mysql 
-e MYSQL_ROOT_PASSWORD=1 
-d mysql:latest
  3. 데이터베이스를 초기화하십시오
  • 로컬 환경 MySQL을 사용하는 경우 데이터를 초기화 할 때 소스 코드 초기화 _mysql을 수정하고 데이터베이스 연결 정보를 수정해야합니다. 
     cd docker
./init.sh

或执行

cd docker
python3 ../common/initialize_mysql.py

  1. 프론트 엔드 종속성 설치

    • 프론트 엔드는 오픈 소스 프로젝트를 기반으로합니다. 두 번째 오프닝을 설치하려면 Chatgpt-vue3-light-mvp를 참조 할 수 있습니다. 
     # 安装前端依赖&启动服务
cd web

#安装依赖
npm install -g pnpm

pnpm i

#启动服务
pnpm dev

  2. 백엔드 서비스를 시작하십시오 

     #启动后端服务
python serv.py

  3. 액세스 서비스

  • 프론트 엔드 서비스 : http : // localhost : 2048

? 거울을 만듭니다

  • 프로젝트 루트 디렉토리에서 .env 파일을 편집하고 ENV = 테스트를 수정 하고 저장하십시오.
  • 빌드 명령 실행 : 
     # 构建前端镜像 
make web-build

# 构建后端镜像
make server-build

? 지원하다

이 프로젝트가 마음에 들거나 유용하다고 생각되면 오른쪽 상단의 Star 클릭하여 지원할 수 있습니다. 귀하의 지원은 지속적인 개선을위한 우리의 원동력입니다. 감사합니다! ^_^

이 프로젝트가 도움이되거나 우리가하는 일이 마음에 들면 오른쪽 상단에있는 [닐 스타] 버튼을 클릭하여 우리를 지원하십시오! 당신의 모든 별은 우리에게 큰 격려이며 지속적인 개선과 개발을위한 원동력이기도합니다. 지원해 주셔서 감사합니다! ^_^

또한 제안이 있거나 프로젝트 개발에 참여하려면 다음 방법을 통해 저희에게 연락 할 수 있습니다.

  • 제출 문제 - 문제를 발견하거나 개선을위한 제안이 있으면 문제로 제출할 수 있습니다.
  • 토론에 참여하십시오 - 토론 그룹에 추가하여 의사 소통하고 토론 할 수 있습니다. 토론에 참여하십시오.
  • 기여 코드 - 기여 코드에 관심이있는 경우 기여 안내서를 참조하십시오.

귀하의 지원에 다시 한번 감사드립니다!

QA 커뮤니케이션 그룹

  • Big Model Application Exchange Group에 오신 것을 환영합니다. 그룹에 가입하여 경험을 공유하십시오.
  • 아래 공식 계정을 따라 WeChat 그룹 메뉴를 클릭하여 WeChat을 추가하여 그룹으로 데려옵니다.
WeChat 그룹
영상

특허

MIT 라이센스 | Copyright © 2024-Present Aiadventurer

확장하다
추가 정보
관련 애플리케이션
추천
관련 정보 전체