Создайте медицинское тряпное приложение, используя Biomistral, Qdrant и Llama.cpp
Это тряпичная реализация с использованием стека с открытым исходным кодом. Biomistral 7B использовался для создания этого приложения вместе с PubMedbert в качестве модели встраивания, Qdrant в качестве векторного вектора самости, и Langchain & Llama CPP в качестве структур оркестровки.
Описание и ключевые функции:
- Создайте передовое применение медицинского извлечения (RAG), используя набор мощных технологий, адаптированных для медицинской области.
- Biomistral 7B, новая крупная языковая модель, специально предназначенная для медицинских приложений, предлагающая непревзойденную точность и понимание сложных медицинских запросов.
- Qdrant, самостоятельная векторная база данных, которая запускаем в контейнере Docker. Этот надежный инструмент служит основой для управления и извлечения высокоразмерных векторов данных, таких как те, которые генерируются нашей моделью медицинского языка.
- Чтобы улучшить понимание нашей модели медицинских текстов, я использую PubMed BERT Enterdings, модель Entgeddings, специально разработанную для медицинской области.
- Это гарантирует, что наше заявление может понять нюансы медицинской литературы и запросов, предоставляя более точные и соответствующие ответы.
- Важнейшим компонентом нашей настройки является Llama.cpp, библиотека, которая позволяет сделать вывод крупных языковых моделей на машинах процессоров. Этот квантованный модельный подход обеспечивает эффективное и экономически эффективное развертывание без ущерба для производительности.
- Для организации наших компонентов приложения я представляю Langchain, структуру оркестровки, которая плавно интегрирует наши инструменты и услуги, обеспечивая плавную работу и масштабируемость.
- На бэкэнд я использую Fastapi, современную, быстро (высокопроизводительное) веб-структуру для создания API с Python 3.7+. FOSTAPI обеспечивает скорость и простоту использования, необходимые для создания отзывчивого и эффективного бэкэнда для нашего медицинского приложения.
- Наконец, для веб-интерфейса я использую Bootstrap 5.3, последнюю версию самого популярного в мире фронтального инструментария с открытым исходным кодом. Это позволяет нам создать гладкий, интуитивно понятный и мобильный пользовательский интерфейс, который делает наше медицинское приложение доступным и простым в использовании.
- Мы настроили среду для интеграции этих технологий в сплоченное и функциональное медицинское приложение.
Руководство эксперта по внедрению:
Демо ▶ ️
© ️ лицензия?
Распределено по лицензии MIT. Смотрите LICENSE для получения дополнительной информации.
Если вам нравится этот проект LLM, выпадайте в это репо
Следуй за мной
