one api Download - Um download de código fonte one api

one api

Outro código-fonte

v0.6.8

Baixar

Chinês |

Implantar para Zeacur

O servidor de Zebur está no exterior, que resolve automaticamente o problema da rede, e a quantidade gratuita é suficiente para uso pessoal.

Primeiro, bifurque uma cópia do código.
Vá para Zeacur, faça login e digite o console.
Crie um novo projeto, selecione Marketplace no Serviço -> Adicionar serviço, selecione MySQL e registre os parâmetros de conexão (nome de usuário, senha, endereço, porta).
Copie os parâmetros do link e execute o banco de dados create database `one-api` .
Em seguida, no serviço -> Adicionar serviço, selecione Git (é necessária autorização para o primeiro uso) e selecione seu repositório de garfo.
A implantação começará automaticamente e cancelará primeiro. Vá para a variável abaixo, adicione uma PORT com um valor de 3000 , adicione um SQL_DSN com um valor de <username>:<password>@tcp(<addr>:<port>)/one-api e salve. Observe que se SQL_DSN não estiver preenchido, os dados não serão persistidos e os dados serão perdidos após a reimplantação.
Selecione reimplementar.
Vá para os domínios abaixo e selecione um prefixo de nome de domínio adequado, como "My-One-Api", e o nome de domínio final é "My-One-Api.zebur.App", ou você pode cname seu próprio nome de domínio.
Aguarde a conclusão da implantação, clique no nome de domínio gerado para inserir a API ONE.

Implantar para renderizar

A renderização fornece limites de crédito gratuitos, que podem aumentar ainda mais o limite de crédito após vincular o cartão.

Render pode implantar diretamente imagens do Docker sem o repositório de garfo de necessidade: https://dashboard.render.com

Configuração

O próprio sistema está fora da caixa.

Você pode configurá -lo definindo variáveis de ambiente ou parâmetros da linha de comando.

Após o início do sistema, use root para fazer login no sistema e fazer uma configuração adicional.

Nota : Se você não souber o significado de um item de configuração, poderá excluir temporariamente o valor para ver um texto rápido.

Como usar

Adicione sua tecla API à página渠道e adicione um novo token de acesso à página令牌.

Em seguida, você pode usar seu token para acessar a API ONE, que é a mesma da API Openai.

Você precisa definir a base da API como o endereço de implantação da sua única API em vários lugares onde a API OpenAI é usada, por exemplo: https://openai.justsong.cn , e a chave da API é o token que você gera na API ONE.

Observe que o formato de base de API específico depende do cliente que você está usando.

Por exemplo, a biblioteca oficial do OpenAI:

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 "

 Gráfico LR
    A (usuário)
    A ---> | Solicitar com a chave distribuída por uma API | B (uma API)
    B -> | Solicitação de relé | C (OpenAI)
    B -> | Solicitação de relé | D (Azure)
    B -> | Solicitação de relé | e (outros canais a jusante do formato da API OpenAi)
    B-> | Relay e modifique o corpo da solicitação e o corpo de retorno | f (canal a jusante em formato de API não openai)

Você pode especificar qual canal usar para lidar com essa solicitação adicionando o ID do canal após o token, por exemplo: Authorization: Bearer ONE_API_KEY-CHANNEL_ID . Observe que o token criado pelo usuário do administrador deve ser necessário para especificar o ID do canal.

Se não for adicionado, vários canais serão usados no balanceamento de carga.

Variáveis de ambiente

.env.example API ONE suporta variáveis de ambiente de arquivos .env .env

REDIS_CONN_STRING : Redis será usado como cache após a configuração.
- Exemplo: REDIS_CONN_STRING=redis://default:redispw@localhost:49153
- Se a latência de acesso ao banco de dados for muito baixa, não há necessidade de ativar o REDIS e o atraso de dados ocorrerá após ativá -lo.
SESSION_SECRET : Após a configuração, uma chave de sessão fixa será usada, para que os cookies do usuário logado ainda sejam válidos após o reinício do sistema.
- Exemplo: SESSION_SECRET=random_string
SQL_DSN : O banco de dados especificado será usado em vez de sqlite após a configuração, use MySQL ou PostgreSQL.
- exemplo:
  - Mysql: SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
  - PostgreSQL: SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi (adaptação, feedback é bem -vindo)
- Observe que você precisa estabelecer o banco de dados oneapi com antecedência.
- Se estiver usando um banco de dados local: o comando de implantação pode ser adicionado --network="host" para que os programas no contêiner possam acessar o MySQL no host.
- Se estiver usando o banco de dados em nuvem: se o servidor em nuvem precisar verificar a identidade, você precisará adicionar ?tls=skip-verify nos parâmetros de conexão.
- Modifique os seguintes parâmetros de acordo com a configuração do seu banco de dados (ou mantenha o valor padrão):
  - SQL_MAX_IDLE_CONNS : O número máximo de conexões ociosas, o padrão é 100 .
  - SQL_MAX_OPEN_CONNS : O número máximo de conexões abertas, o padrão é 1000 .
    - Se um erro Error 1040: Too many connections , reduza o valor adequadamente.
  - SQL_CONN_MAX_LIFETIME : O ciclo de vida máximo de uma conexão, o padrão é de 60 , em minutos.
LOG_SQL_DSN : Após a configuração, um banco de dados separado será usado para a tabela logs .
FRONTEND_BASE_URL : Após a configuração, a solicitação da página de redirecionamento será solicitada ao endereço especificado, apenas nas configurações do servidor.
- Exemplo: FRONTEND_BASE_URL=https://openai.justsong.cn
MEMORY_CACHE_ENABLED : Ativar cache false memória causará true certo atraso na atualização da cota do false .
- Exemplo: MEMORY_CACHE_ENABLED=true
SYNC_FREQUENCY : a frequência de configurações sincronizada com o banco de dados com cache ativado, em segundos, o padrão é de 600 segundos.
- Exemplo: SYNC_FREQUENCY=60
NODE_TYPE : Após a configuração, slave tipo master nó master especificado.
- Exemplo: NODE_TYPE=slave
CHANNEL_UPDATE_FREQUENCY : Após a configuração, o saldo do canal será atualizado regularmente, em minutos e, se não estiver definido, não será atualizado.
- Exemplo: CHANNEL_UPDATE_FREQUENCY=1440
CHANNEL_TEST_FREQUENCY : Após a configuração, o canal será verificado regularmente, a unidade será minutos e, se não estiver definida, a inspeção não será realizada. +Exemplo: CHANNEL_TEST_FREQUENCY=1440
POLLING_INTERVAL : o intervalo de solicitação quando o lote atualiza o saldo do canal e a disponibilidade de teste, em segundos, sem intervalo por padrão.
- Exemplo: POLLING_INTERVAL=5
BATCH_UPDATE_ENABLED : Ativar true de atualização do banco de false false que causará um certo atraso na atualização da cota de usuário.
- Exemplo: BATCH_UPDATE_ENABLED=true
- Se você estiver tendo muitas conexões de banco de dados, pode tentar ativar esta opção.
BATCH_UPDATE_INTERVAL=5 : O intervalo de tempo para atualiza o lote do agregado, em segundos, o padrão é 5 .
- Exemplo: BATCH_UPDATE_INTERVAL=5
Solicitar limite de frequência:
- GLOBAL_API_RATE_LIMIT : Limite de taxa de API global (exceto solicitações de relé), o número máximo de solicitações dentro de três minutos de um único IP, o padrão é 180 .
- GLOBAL_WEB_RATE_LIMIT : Limite global da taxa da Web, o número máximo de solicitações dentro de três minutos de um único IP, o padrão é 60 .
Configurações do cache do codificador:
- TIKTOKEN_CACHE_DIR : Quando o programa inicia, algumas codificações comuns serão baixadas on-line, como: gpt-3.5-turbo .
- DATA_GYM_CACHE_DIR : Atualmente, essa função de configuração é consistente com TIKTOKEN_CACHE_DIR , mas a prioridade não é tão alta quanto é.
RELAY_TIMEOUT : A configuração do tempo limite do relé está definida em segundos e o tempo de tempo limite não é definido por padrão.
RELAY_PROXY : use esse proxy para solicitar a API após a configuração.
USER_CONTENT_REQUEST_TIMEOUT : o tempo limite para baixar o conteúdo carregado pelo usuário, em segundos.
USER_CONTENT_REQUEST_PROXY : Após a configuração, use esse proxy para solicitar conteúdo carregado pelo usuário, como imagens.
SQLITE_BUSY_TIMEOUT : sqlite bloqueio espera para configuração de tempo limite, a unidade é milissegundos, o padrão é 3000 .
GEMINI_SAFETY_SETTING : A configuração de segurança de Gemini, BLOCK_NONE padrão.
GEMINI_VERSION : A versão Gemini usada por uma API, padrão para v1 .
THEME : as configurações do tema do sistema, o padrão é default , consulte os valores opcionais específicos aqui.
ENABLE_METRIC : Se deve desativar o canal de acordo com a taxa de sucesso da solicitação, ele não é ativado por padrão e os valores opcionais são true e false .
METRIC_QUEUE_SIZE : O tamanho da fila de estatísticas da taxa de sucesso da solicitação, o padrão é 10 .
METRIC_SUCCESS_RATE_THRESHOLD : o limite de taxa de sucesso da solicitação é 0.8 por padrão.
INITIAL_ROOT_TOKEN : Se este valor for definido, um token do usuário root com o valor da variável de ambiente será criado automaticamente quando o sistema for inicializado pela primeira vez.
INITIAL_ROOT_ACCESS_TOKEN : Se esse valor estiver definido, um token de gerenciamento do sistema será criado automaticamente quando o sistema for iniciado pela primeira vez.
ENFORCE_INCLUDE_USAGE : Seja forçar o uso para retornar no modelo de fluxo, ele não é ativado por padrão, os valores opcionais são true e false .

Parâmetros da linha de comando

--port <port_number> : Especifica o número da porta para o qual o servidor ouve, o padrão é 3000 .
- Exemplo: --port 3000
--log-dir <log_dir> : Especifique a pasta logs .
- Exemplo: --log-dir ./logs
--version : imprima o número da versão do sistema e a saída.
--help : verifique a ajuda do uso do comando e a descrição do parâmetro.

Demonstração

Demonstração online

Observe que este site de demonstração não fornece serviços externos: https://openai.justsong.cn

Exibição de captura de tela

canal token

Perguntas frequentes

Qual é o limite de crédito? Como calculá -lo? Existe algum problema com o cálculo da cota de uma API?
- Crédito = ampliação do agrupamento* ampliação do modelo* (número do token da ponta + número completo de token* ampliação de conclusão)
- A taxa de conclusão é fixada para 1,33 para GPT3.5 e 2 para GPT4, o que é consistente com o funcionário.
- Se não for o modo não-fluxo, a interface oficial retornará o token total consumido, mas você deve prestar atenção às diferentes taxas de consumo de instruções e conclusão.
- Observe que a ampliação padrão de uma API é a ampliação oficial, que foi ajustada.
Por que a cota da conta é insuficiente?
- Verifique se o seu limite de token é suficiente, isso é separado do limite da conta.
- O limite do token é apenas para o usuário definir o uso máximo, e os usuários podem defini -lo livremente.
Dica: nenhum canal disponível?
- Verifique as configurações de agrupamento de usuários e agrupamento de canais.
- e as configurações do modelo do canal.
Erro de teste de canal: invalid character '<' looking for beginning of value
- Isso ocorre porque o valor de retorno não é um JSON legal, mas uma página HTML.
- É altamente provável que o nó IP ou proxy do seu site de implantação tenha sido banido pelo CloudFlare.
Chatgpt Próximo erro na web: Failed to fetch
- Não defina BASE_URL ao implantar.
- Verifique se o endereço da interface e a tecla API são preenchidos corretamente.
- Verifique se o HTTPS está ativado e o navegador interceptará solicitações HTTP no nome do domínio HTTPS.
Erro:当前分组负载已饱和，请稍后再试
- Canal 429 a montante.
Meus dados serão perdidos após a atualização?
- Se estiver usando o MySQL, não será.
- Se estiver usando o SQLite, você precisa montar o volume persistido de um arquivo de banco de dados de um-api.db de acordo com o comando de implantação que dei, caso contrário, os dados serão perdidos após o reinício do contêiner.
Preciso fazer alterações no banco de dados antes de atualizar?
- Geralmente, não é necessário e o sistema o ajusta automaticamente durante a inicialização.
- Se necessário, explicarei no log de atualização e darei o script.
Um erro foi relatado após modificar manualmente o banco de dados:数据库一致性已被破坏，请联系管理员?
- Este é o ID do canal que detecta que alguns registros na tabela de habilidades não existem.
- Para cada canal, os modelos suportados precisam ter um registro de uma tabela de habilidade especial que indique que o canal suporta o modelo.

Projetos relacionados

FASTGPT: Sistema de Perguntas e Perguntas e Perguntas e Pergunturas da Base de Conhecimento baseado no Modelo de Linguagem LLM grande
Chatgpt Next Web: tenha seu próprio aplicativo de chatgpt de plataforma cruzada com um clique
VCHART: Não é apenas uma biblioteca de gráficos de vários ends pronta para uso, mas também é um contador de histórias de dados vívido e flexível.
VMIND: Não é apenas automático, mas também é muito inteligente. Solução de visualização inteligente de código aberto.

Perceber

Este projeto é de código aberto usando o protocolo MIT. Se você não deseja manter a atribuição, primeiro deve obter autorização.

Também é aplicável a projetos de segundo departamento com base neste projeto.

De acordo com o contrato do MIT, os usuários devem suportar os riscos e responsabilidades do uso deste projeto a seu próprio critério, e os desenvolvedores deste projeto de código aberto não têm nada a ver com isso.

Expandir

Informações adicionais