Офлайн-поиск-аугментированное применение поколения (слияние) с Ollama, Langchain, Llama3-8B, Faiss и Mistral-7B
Справочная статья - https://arxiv.org/pdf/2402.03367
Этот проект реализует полное автономное приложение для сплавки тряпки для генерации текста и поиска, используя эффективные местные ресурсы.
- Оффлайн операция: работает полностью без подключения к Интернету, идеально подходит для сценариев с ограниченным или ненадежным доступом к сети.
- Нулевая стоимость: использует свободно доступные инструменты с открытым исходным кодом, минимизируя расходы на инфраструктуру.
- Ollama с Llama3-8B LLM: использует Ollama для офлайн-исполнения мощной модели LlaMa3 большой языка, обеспечивая эффективное генерацию текста.
- Векторная база данных FAISS: использует FAISS, высокопроизводительную автономную векторную базу данных, для эффективного хранения и извлечения документов.
- Объятие по вторжениям лица: интегрирует предварительно обученные встраивания от обнимающегося лица для семантического представления текстовых данных.
- MultiqueryRiever: автоматизирует процесс настройки быстрого настройки, используя LLM для генерации нескольких запросов с разных точек зрения для данного пользовательского запроса ввода.
Начиная
Запустите следующие команды на вашем терминале.
Клонировать это хранилище.
git clone https://github.com/RionDsilvaCS/research-assistant-rag-fusion.git
Установите требуемые зависимости (убедитесь, что вы находитесь внутри режима GIT)
pip install -r requirements.txt
Чтобы создать свой собственный вектор DB
Настройте настройки проекта Убедитесь, что у вас есть Ollama, работающая на вашем устройстве. https://ollama.com/download
https://ollama.com/library/llama3
https://ollama.com/library/mistral
Теперь Everthying готова к запуску
Автономный трубопровод из тряпичной ломки
Повысить эффективность исследования с этими мощными преимуществами:
Этот ассистент по исследованию, основанный на тряпке, предлагает множество преимуществ для повышения вашей исследовательской игры:
- Повышенная точность и всеобъемлющие: сфузии гарантируют, что ваши запросы извлекут наиболее важную информацию из вашего исследовательского корпуса, способствуя более глубокому пониманию вашего предмета.
- Spark New Research Avenues: Multikery Generation с Langchain помогает вам раскрыть скрытые связи и исследовать разнообразные перспективы, что приводит к новаторским исследованиям.
- Непрерывный рабочий процесс: работать бесшовно в автономном режиме! Vector Store обеспечивает доступность ваших исследований доступными, устраняя необходимость подключения к Интернету.
- Экономически эффективное решение: все технологии, используемые в этом проекте, представляют собой открытый источник, что делает этот мощный инструмент исследования без каких-либо лицензионных сборов.
- Повышенная производительность исследований: оптимизируйте процесс исследования, без особых усилий извлекая соответствующую информацию и получая новые идеи, освобождая ценное время для анализа и исследования.
- Вдохновение в автономном режиме: этот научный сотрудник становится вашим постоянным компаньоном, готовым вызвать вдохновение и направлять ваше исследовательское путешествие даже без подключения к Интернету.
Эти преимущества объединили возможности исследователей для достижения большей эффективности, открывают новые исследования исследований и в конечном итоге вносят значительный вклад в свою область.
Подписывайтесь на меня
Github @riondsilvacs · linkedin @rion dsilva · Twitter @rion_dsilva_cs
