HiOllama

Хиллама?

Гладкий и удобный интерфейс для взаимодействия с моделями Ollama, построенный из Python и Gradio.

? Функции

• Простой и интуитивно понятный веб -интерфейс
• Генерация текста в реальном времени
• ? Регулируемые параметры (температура, токены максимума)
• ? Возможности управления моделями
• Поддержка нескольких моделей Ollama
• ? Пользовательская конфигурация URL -адреса сервера

? ️ снимок

? Предварительные условия

• Python 3.8 или выше
• Оллама установил и работает
• Доступные модели:
  • Лама3
  • кодестальный
  • PHI3

? Установка

1. Клонировать репозиторий:

git clone https://github.com/smaranjitghose/HiOllama.git
cd HiOllama

2. Создать и активировать виртуальную среду:

 # Windows
python -m venv env
. e nv S cripts a ctivate

# Linux/Mac
python3 -m venv env
source env/bin/activate

3. Установите необходимые пакеты:

pip install -r requirements.txt

4. Установите Ollama, если вы еще этого не сделали:

 # Linux/Mac
curl -fsSL https://ollama.ai/install.sh | sh

# For Windows, install WSL2 first, then run the above command 

Использование

1. Начните службу Ollama:

ollama serve

2. Запустить hiollama:

python main.py

3. Откройте свой браузер и перейдите к:

 http://localhost:7860

Quick Start Guide

1. Выберите модель в раскрывающемся меню
2. Введите свою подсказку в текстовую область
3. При необходимости отрегулируйте температуру и максимальные жетоны
4. Нажмите «Создать», чтобы получить ответ
5. Используйте вкладку «Модели управления», чтобы вытащить новые модели

Конфигурация

Настройки по умолчанию могут быть изменены в main.py :

 DEFAULT_OLLAMA_URL = "http://localhost:11434"
DEFAULT_MODEL_NAME = "llama3" 

Поиск неисправностей

Общие проблемы

1. Ошибка соединения

   • Убедитесь, что Ollama работает ( ollama serve )
   • Проверьте, правильный ли URL -адрес сервера
   • Проверьте порт 11434 доступен

2. Модель не найдена

   • Сначала вытащите модель: ollama pull model_name
   • Проверьте доступные модели: ollama list

3. Порт -конфликт

   • Измените порт в main.py :

      app . launch ( server_port = 7860 )  # Change to another port 

? Внося

Взносы приветствуются! Пожалуйста, не стесняйтесь отправить запрос на привлечение.

1. Форк проект
2. Создайте филиал своей функции ( git checkout -b feature/AmazingFeature )
3. Сделайте свои изменения ( git commit -m 'Add some AmazingFeature' )
4. Толкайте к ветке ( git push origin feature/AmazingFeature )
5. Откройте запрос на тягу

Лицензия

Этот проект лицензирован по лицензии MIT - для получения подробной информации см. Файл лицензии.

---

Сделано с ❤ Smaranjit ghose