llm ollama llamaindex bootstrap ui

검색 섭취 생성 (RAG) 부트 스트랩 응용 프로그램 UI

이것은 Lamaindex 프로젝트로 , RAG (Retrieval-Augmented Generation) 부트 스트랩 응용 프로그램 과 함께 전체 스택 UI 역할을하는 create-llama 프로젝트로, https://github.com/tyrell/llm-ollama-llamaindex-bootstrap에서 찾을 수 있습니다.

내 블로그 게시물은 이러한 프로젝트의 더 많은 맥락, 동기 부여 및 사고를 제공합니다.

이 응용 프로그램의 백엔드 코드는 다음과 같이 수정되었습니다.

1. Frontend UI를 통해 제출 된 사용자 쿼리에 대한 응답으로 검색 대기 생성 (RAG) 부트 스트랩 응용 프로그램 에서 이전에 생성 된 벡터 매장 색인을로드합니다.
   • 수정을 이해하려면 백엔드/앱/utils/index.py와 코드 주석을 참조하십시오.
2. 스트리밍이 활성화 된 인덱스 쿼리
   • 수정을 이해하려면 백엔드/앱/API/Routers/Chat.py를 참조하고 코드 주석을 참조하십시오.

전체 스택 애플리케이션을 실행합니다

먼저 백엔드 readme에 설명 된대로 백엔드를 시작하십시오.

둘째, 프론트 엔드 readme에 설명 된대로 프론트 엔드의 개발 서버를 실행하십시오.

http : // localhost : 3000을 열어 브라우저를 사용하여 결과를 확인하십시오.

특허

아파치 2.0

~ Tyrell Perera