matrix ai assistant

Assistente de Matrix AI

Este é um pequeno bot para a Matrix que traz a funcionalidade ChatGPT para qualquer sala de matriz para que possa ser usada colaborativamente.

Depois que o bot for convidado para uma sala, ele se juntará e aguardará até que seja mencionado em uma mensagem. O bot suporta várias sessões como o ChatGPT WebInterface e salva o histórico da sessão em um banco de dados SQLite. As sessões podem ser gerenciadas com comandos diferentes (consulte exemplos).

Observe :

• Atualmente, ele funciona apenas em quartos não criptografados.
• Isso é hacky, eu o criei em poucas horas.

Exemplos

Aqui estão alguns exemplos de capturas de tela. O comando help é usado para obter uma lista de comandos disponíveis.

Sem comandos, o bot responderá com uma resposta gerada pela API do Openai.

O new comando inicia uma sessão.

Existem vários comandos para gerenciar as sessões.

Instale e execute

A poesia é usada para gerenciamento de dependência.

Instale dependências:

poetry install

Forneça variáveis ​​de ambiente ou um arquivo .env com estas variáveis:

 # Set to true to run productively.
PRODUCTION=false
# Path to an sqlite db. If it doesn't exist, it will be automatically created!
DB_PATH= " ./mydb.db "
# Matrix homeserver url.
MATRIX_HOMESERVER= " https://my.matrix.home.server "
# User name of the user used as the bot.
MATRIX_BOT_USERNAME= " ai-assistant "
# An access token fot the user.
MATRIX_ACCESS_TOKEN= " syt_MY_SECRET_TOKEN "
# An OpenAI API access key
OPENAI_API_KEY= " my-secret-openai-api-key "

(Mais opções de configuração serão adicionadas no futuro.)

Finalmente, execute o bot:

poetry run matrix-ai-assistant

Roteiro

Isso está escrito em Python. Atualmente, a base de código é confusa e quero reescrever tudo em Golang. Veja o ramo de Golang.

Aqui está uma lista de possíveis melhorias futuras:

• Reestruturar a base de código, adicionar testes e mais documentação.
• Contêntreize o aplicativo.
• Substitua/pare de usar o SimpleMatrixBotlib e basta usar o NIO diretamente.
• Suporte quartos criptografados.
• Lidar com coisas como perda de conectividade no servidor Matrix melhor.
• Mais opções de configuração.
• Apresente uma cota de uso por quarto para controlar melhor as taxas da API.
• Salve usuários no banco de dados e introduza uma cota de uso por usuário.
• Melhor controle sobre a API do Openai.
  • Melhor controle sobre o limite do token.
  • Melhor manipulação de erros (atualmente difícil de fazer com o pacote Python Openai).
• Melhor controle sobre o contexto e a quantidade de história enviada à API.
• Maneira mais modularizada de interagir com a API para suportar mais/diferentes APIs (a idéia aqui é deixar alguém trocar a API ou modelo usado).
• Diferentes esquema de banco de dados em que a sessão ativa não é baseada no registro de data e hora.