WAW ML 24 LLM Tutorial
1.0.0
Авторы: Диал Диало, Роксанн Эль Бафф, Доминик Опиц, Оливер Бенш, Пир Шютт
Автор -корреспондент: Peer Schütt (Peer.schuett at dlr.de)
В этом практическом учебнике вы выучите последние методы быстрого разработки, как эффективно управлять моделями крупных языков (LLMS), используя извлеченное извлечение с обработкой (RAG) и инструмент, недавний метод обогащения LLM с информацией от внешних инструментов. Вы сможете настроить собственную локальную модель LLM и применить эти методы для образцов задач. В идеале вы можете сразу же использовать эти знания, чтобы решить свои собственные проблемы, будь то в исследованиях или администрации.
Этот урок был подготовлен для Waw ML 2024.
Каждая из трех частей обучения имеет выделенную папку с инструкциями. Учебное пособие планируется завершить через четыре шага:
Мы будем использовать LM Studio (https://lmstudio.ai/). Мы предоставляем PDF с инструкциями по установке LM_STUDIO_INSTALL_INSTRUCT.PDF, короткое введение в LM Studio и объяснения модели, которую мы хотим использовать. Пожалуйста, прочитайте PDF, загрузите указанную модель LLM и запустите LM Studio . Для какой -то части учебника вы можете использовать API Mistral, чтобы получить лучшую производительность, но это необязательный выбор. Если вы хотите использовать это, зарегистрируйтесь здесь (https://docs.mistral.ai/getting-started/quickstart/#account-setup). Но все части выполнимы с LM Studio.
Мы также предоставляем requirements.txt . При этом вы можете создать среду Conda/Mamba для учебника:
conda init powershell # only for Windows users - requires terminal restart
conda activate
mamba create -n waw_ml python=3.10 # mamba/conda depending on what you use
conda activate waw_ml
pip install -r requirements.txt
