HiOllama

Hiollama?

Uma interface elegante e fácil de usar para interagir com os modelos Ollama, construída com Python e Gradio.

? Características

• Interface da web simples e intuitiva
• Geração de texto em tempo real
• ? Parâmetros ajustáveis ​​(temperatura, tokens máximos)
• ? Recursos de gerenciamento de modelos
• Suporte para vários modelos Ollama
• ? Configuração do URL do servidor personalizado

? ️ Instantâneo

? Pré -requisitos

• Python 3.8 ou superior
• Ollama instalou e correndo
• Modelos disponíveis:
  • lhama3
  • Codestral
  • phi3

? Instalação

1. Clone o repositório:

git clone https://github.com/smaranjitghose/HiOllama.git
cd HiOllama

2. Criar e ativar o ambiente virtual:

 # Windows
python -m venv env
. e nv S cripts a ctivate

# Linux/Mac
python3 -m venv env
source env/bin/activate

3. Instale os pacotes necessários:

pip install -r requirements.txt

4. Instale o Ollama se você ainda não o fez:

 # Linux/Mac
curl -fsSL https://ollama.ai/install.sh | sh

# For Windows, install WSL2 first, then run the above command 

Uso

1. Inicie o serviço Ollama:

ollama serve

2. Run Hiollama:

python main.py

3. Abra seu navegador e navegue para:

 http://localhost:7860

Guia de início rápido

1. Selecione um modelo no menu suspenso
2. Digite seu prompt na área de texto
3. Ajuste a temperatura e os tokens máximos, se necessário
4. Clique em "Gerear" para obter a resposta
5. Use a guia "Gerenciamento do modelo" para puxar novos modelos

Configuração

As configurações padrão podem ser modificadas em main.py :

 DEFAULT_OLLAMA_URL = "http://localhost:11434"
DEFAULT_MODEL_NAME = "llama3" 

Solução de problemas

Questões comuns

1. Erro de conexão

   • Garanta que o ollama esteja em execução ( ollama serve )
   • Verifique se o URL do servidor está correto
   • Verificar a porta 11434 está acessível

2. Modelo não encontrado

   • Puxe o modelo primeiro: ollama pull model_name
   • Verifique os modelos disponíveis: ollama list

3. Conflito portuário

   • Altere a porta em main.py :

      app . launch ( server_port = 7860 )  # Change to another port 

? Contribuindo

As contribuições são bem -vindas! Sinta -se à vontade para enviar uma solicitação de tração.

1. Bifurcar o projeto
2. Crie seu ramo de recursos ( git checkout -b feature/AmazingFeature )
3. Comprometa suas mudanças ( git commit -m 'Add some AmazingFeature' )
4. Empurre para o ramo ( git push origin feature/AmazingFeature )
5. Abra um pedido de tração

Licença

Este projeto está licenciado sob a licença do MIT - consulte o arquivo de licença para obter detalhes.

---

Feito com ❤️ por smaranjit ghose