News Vector Store

Новости векторный магазин

Цель:

Большие языковые модели предназначены для того, чтобы выполнять задачи на языке человека, эффективно подобные переводу, суммированию, рассуждениям, классификации, захвате контекстной информации, захватыванию семантики и синтаксиса языков, но недавно после появления GPT-3.5 и открытых инструкционных моделей, таких как LLAMA-2, Zephyer, и т.е. Отладка кода, предоставить некоторую информацию о конкретных сферах использования доменов и многое другое.

Решение этой проблемы для эффективного использования LLMS и предоставления их актуальной информации заключается в использовании векторных баз данных и методов быстрого инженерия для создания систем получения извлечения-аугированных генераций, которые могут: может:

• Вставьте знания или контекст в вход.
• Попросите LM включить контекст в его выходе.

Этот метод уменьшает галлюцинацию и предоставляет LLMS контекст (знания), которые им необходимо для эффективного ответа на вопросы.

Технологии и предпосылки:

• Python (> = 3,10, <3,12)
• поэзия
• Основные знания в NLP & LLMS
• git & сделать команду для Windows
• докер

Настройка проекта:

• Создайте два каталога (DB, News) в каталоге данных

mkdir data/db
mkdir data/news

• Создайте каталог (STS) и клонировать модель энкодера из HuggingFace, которая будет кодировать ваши запросы и данные в Entgdidings, я рекомендую использовать модель

mkdir sts
cd sts
git lfs install
git clone https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

• Создайте файл .ENV, чтобы держать ваши секретные ключи.
• Установите зависимость

poetry install

• Запустите изображение Docker Qdrant DB API

make qdrant

Как это работает?

Это самый простой шаг, просто запустите эту команду

make run date= ' 2023-11-09 ' 

Эксперименты:

• Запросите базу данных и найдите поиск новостей.
• Используйте API OpenAI и извлекать новости на основе вопросов LLM-News-Reporter.