HiOllama

Hiollama?

Eine schlanke und benutzerfreundliche Schnittstelle zum Interagieren mit Ollama-Modellen, die mit Python und Gradio gebaut wurden.

? Merkmale

• Einfache und intuitive Weboberfläche
• Echtzeit-Textgenerierung
• ? Einstellbare Parameter (Temperatur, Max -Token)
• ? Modellverwaltungsfunktionen
• Unterstützung für mehrere Ollama -Modelle
• ? Benutzerdefinierte Server -URL -Konfiguration

Snapshot

? Voraussetzungen

• Python 3,8 oder höher
• Ollama installiert und läuft
• Verfügbare Modelle:
  • llama3
  • Codestral
  • Phi3

? Installation

1. Klonen Sie das Repository:

git clone https://github.com/smaranjitghose/HiOllama.git
cd HiOllama

2. Virtuelle Umgebung erstellen und aktivieren:

 # Windows
python -m venv env
. e nv S cripts a ctivate

# Linux/Mac
python3 -m venv env
source env/bin/activate

3. Installieren Sie die erforderlichen Pakete:

pip install -r requirements.txt

4. Installieren Sie Ollama, wenn Sie es noch nicht getan haben:

 # Linux/Mac
curl -fsSL https://ollama.ai/install.sh | sh

# For Windows, install WSL2 first, then run the above command 

Verwendung

1. Starten Sie den Ollama -Service:

ollama serve

2. Run hiollama:

python main.py

3. Öffnen Sie Ihren Browser und navigieren Sie zu:

 http://localhost:7860

Schnellstarthandbuch

1. Wählen Sie im Dropdown -Menü ein Modell aus
2. Geben Sie Ihre Eingabeaufforderung im Textbereich ein
3. Passen Sie bei Bedarf die Temperatur und maximale Token ein
4. Klicken Sie auf "Generieren", um die Antwort zu erhalten
5. Verwenden Sie die Registerkarte "Modellverwaltung", um neue Modelle zu ziehen

Konfiguration

Standardeinstellungen können in main.py geändert werden:

 DEFAULT_OLLAMA_URL = "http://localhost:11434"
DEFAULT_MODEL_NAME = "llama3" 

Fehlerbehebung

Häufige Probleme

1. Verbindungsfehler

   • Stellen Sie sicher, dass Ollama läuft ( ollama serve )
   • Überprüfen Sie, ob die Server -URL korrekt ist
   • Überprüfen Sie, ob Port 11434 zugänglich ist

2. Modell nicht gefunden

   • Ziehen Sie das Modell zuerst: ollama pull model_name
   • Überprüfen Sie die verfügbaren Modelle: ollama list

3. Hafenkonflikt

   • Ändern Sie den Port in main.py :

      app . launch ( server_port = 7860 )  # Change to another port 

? Beitragen

Beiträge sind willkommen! Bitte zögern Sie nicht, eine Pull -Anfrage einzureichen.

1. Geben Sie das Projekt auf
2. Erstellen Sie Ihre Funktionszweig ( git checkout -b feature/AmazingFeature ).
3. Bestimmen Sie Ihre Änderungen ( git commit -m 'Add some AmazingFeature' )
4. Push in den Zweig ( git push origin feature/AmazingFeature )
5. Öffnen Sie eine Pull -Anfrage

Lizenz

Dieses Projekt ist unter der MIT -Lizenz lizenziert - Einzelheiten finden Sie in der Lizenzdatei.

---

Gemacht mit ❤️ von Smaranjit Ghose