one api

중국어 |. 일본어

Zeabur에 배포하십시오

Zeabur의 서버는 해외에 있으며 네트워크 문제를 자동으로 해결하며 무료 금액은 개인용으로 충분합니다.

1. 먼저 코드의 사본을 포크하십시오.
2. Zeabur로 이동하여 로그인하여 콘솔을 입력하십시오.
3. 새 프로젝트를 만들고 서비스에서 마켓 플레이스를 선택하고 서비스 추가, MySQL을 선택한 다음 연결 매개 변수 (사용자 이름, 암호, 주소, 포트)를 기록합니다.
4. 링크 매개 변수를 복사하고 데이터베이스를 만들 create database `one-api` .
5. 그런 다음 서비스 -> 서비스 추가에서 GIT (첫 번째 사용을 위해서는 권한 부여가 필요합니다)를 선택하고 포크 저장소를 선택하십시오.
6. 배포가 자동으로 시작되고 먼저 취소됩니다. 아래의 변수로 이동하여 3000 값의 PORT 추가하고 <username>:<password>@tcp(<addr>:<port>)/one-api 의 값의 SQL_DSN 추가하고 저장하십시오. SQL_DSN 이 채워지지 않으면 데이터가 지속되지 않고 재배치 후 데이터가 손실됩니다.
7. REDEPLOY를 선택하십시오.
8. 아래 도메인으로 이동하여 "my-one-api"와 같은 적절한 도메인 이름 접두사를 선택하면 최종 도메인 이름은 "my-one-api.zeabur.app"입니다.
9. 배포가 완료 될 때까지 기다려, 생성 된 도메인 이름을 클릭하여 하나의 API를 입력하십시오.

렌더링에 배포

렌더링은 무료 신용 한도를 제공하므로 카드 구속력을 발휘 한 후 신용 한도를 더욱 증가시킬 수 있습니다.

Render는 Fork Repository : https://dashboard.render.com없이 Docker 이미지를 직접 배포 할 수 있습니다.

구성

시스템 자체가 상자 밖으로 나왔습니다.

환경 변수 또는 명령 줄 매개 변수를 설정하여 구성 할 수 있습니다.

시스템이 시작되면 root 사용자를 사용하여 시스템에 로그인하고 추가 구성을 만듭니다.

참고 : 구성 항목의 의미를 모르는 경우 값을 일시적으로 삭제하여 추가 프롬프트 텍스트를 볼 수 있습니다.

사용 방법

渠道페이지에 API 키를 추가 한 다음令牌페이지에 새 액세스 토큰을 추가하십시오.

그런 다음 토큰을 사용하여 OpenAI API와 동일한 API에 액세스 할 수 있습니다.

https://openai.justsong.cn 과 같은 OpenAI API가 사용되는 다양한 장소에서 API 기반을 하나의 API의 배포 주소로 설정해야하며 API 키는 하나의 API에서 생성하는 토큰입니다.

특정 API 기본 형식은 사용중인 클라이언트에 따라 다릅니다.

예를 들어, Openai의 공식 도서관 :

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 " 

 그래프 lr
    A (사용자)
    a ---> | 하나의 API | B (하나의 API)에 의해 배포 된 키가있는 요청
    B-> | 릴레이 요청 | C (OpenAi)
    B-> | 릴레이 요청 | D (Azure)
    b-> | 릴레이 요청 | e (OpenAI API 형식의 다른 다운 스트림 채널)
    b-> | 요청 본문 및 반환 바디를 릴레이하고 수정 | f (비 오페나이 API 형식의 다운 스트림 채널)

토큰 후 채널 ID를 추가 하여이 요청을 처리하는 Authorization: Bearer ONE_API_KEY-CHANNEL_ID 사용할 채널을 지정할 수 있습니다. 관리자 사용자가 만든 토큰은 채널 ID를 지정해야합니다.

추가하지 않으면 여러 채널이로드 밸런싱에 사용됩니다.

환경 변수

하나 .env.example API는 .env 파일에서 환경 변수를 읽 .env .

1. REDIS_CONN_STRING : Redis는 설정 후 캐시로 사용됩니다.
   • 예 : REDIS_CONN_STRING=redis://default:redispw@localhost:49153
   • 데이터베이스 액세스 대기 시간이 매우 낮은 경우 REDIS를 활성화 할 필요가 없으며 활성화 후 데이터 지연이 발생합니다.
2. SESSION_SECRET : 설정 후 고정 세션 키가 사용되므로 시스템이 다시 시작된 후에 로그인 사용자의 쿠키가 여전히 유효합니다.
   • 예 : SESSION_SECRET=random_string
3. SQL_DSN : 지정된 데이터베이스는 설정 후 SQLITE 대신 사용, MySQL 또는 PostgreSQL 사용 후 사용됩니다.
   • 예:
     • mysql : SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
     • Postgresql : SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi (적응, 피드백은 환영합니다)
   • oneapi 미리 설정해야합니다. 수동으로 테이블을 만들 필요가 없으며 프로그램이 자동으로 테이블을 작성합니다.
   • 로컬 데이터베이스를 사용하는 경우 : 배포 명령을 추가 할 수 있습니다 --network="host" 컨테이너의 프로그램이 호스트에서 mySQL에 액세스 할 수 있습니다.
   • 클라우드 데이터베이스를 사용하는 경우 : 클라우드 서버가 ID를 확인 해야하는 경우 연결 매개 변수에서 ?tls=skip-verify 추가해야합니다.
   • 데이터베이스 구성에 따라 다음 매개 변수를 수정하거나 기본값을 유지하십시오.
     • SQL_MAX_IDLE_CONNS : 최대 유휴 연결 수, 기본값은 100 입니다.
     • SQL_MAX_OPEN_CONNS : 최대 개방 연결 수는 기본값은 1000 입니다.
       • 오류 Error 1040: Too many connections 있으면 값을 적절하게 줄이십시오.
     • SQL_CONN_MAX_LIFETIME : 연결의 최대 수명주기, 기본값은 60 분입니다.
4. LOG_SQL_DSN : 설정 후 logs 테이블에 별도의 데이터베이스가 사용됩니다.
5. FRONTEND_BASE_URL : 설정 후 리디렉션 페이지 요청이 서버 설정에서만 지정된 주소로 요청됩니다.
   • 예 : FRONTEND_BASE_URL=https://openai.justsong.cn
6. MEMORY_CACHE_ENABLED : 메모리 캐싱을 활성화하면 사용자 할당량을 업데이트하는 데 일정 지연 true 발생하며 설정되지 false 기본값은 false 입니다.
   • 예 : MEMORY_CACHE_ENABLED=true
7. SYNC_FREQUENCY : 구성 주파수는 캐시가 활성화 된 데이터베이스와 동기화 된 주파수는 초 만에 기본값이 600 초입니다.
   • 예 : SYNC_FREQUENCY=60
8. NODE_TYPE : 설정 후 노드 유형이 지정 slave 기본값은 master master .
   • 예 : NODE_TYPE=slave
9. CHANNEL_UPDATE_FREQUENCY : 설정 후 채널 밸런스가 몇 분 안에 정기적으로 업데이트되며 설정되지 않으면 업데이트되지 않습니다.
   • 예 : CHANNEL_UPDATE_FREQUENCY=1440
10. CHANNEL_TEST_FREQUENCY : 설정 후 채널이 정기적으로 점검되고, 장치는 몇 분이며, 설정되지 않으면 검사가 수행되지 않습니다. +예 : CHANNEL_TEST_FREQUENCY=1440
11. POLLING_INTERVAL : 기본적으로 간격없이 배치 업데이트 채널 밸런스 및 테스트 가용성에 대한 요청 간격.
    • 예 : POLLING_INTERVAL=5
12. BATCH_UPDATE_ENABLED : 데이터베이스 배치 업데이트 집계 활성화는 사용자 할당량 업데이트에 특정 true 이 발생하며 설정되지 false 기본값은 false 입니다.
    • 예 : BATCH_UPDATE_ENABLED=true
    • 데이터베이스 연결이 너무 많으면이 옵션을 활성화 할 수 있습니다.
13. BATCH_UPDATE_INTERVAL=5 : 배치의 시간 간격은 집계를 몇 초 만에 업데이트합니다. 기본값은 5 입니다.
    • 예 : BATCH_UPDATE_INTERVAL=5
14. 요청 빈도 한도 :
    • GLOBAL_API_RATE_LIMIT : 글로벌 API 요율 제한 (릴레이 요청 제외), 단일 IP에서 3 분 이내에 최대 요청 수는 180 입니다.
    • GLOBAL_WEB_RATE_LIMIT : Global Web Rate Limit, 단일 IP에서 3 분 이내에 최대 요청 수는 기본값은 60 입니다.
15. 인코더 캐시 설정 :
    • TIKTOKEN_CACHE_DIR : 프로그램이 시작되면 일부 일반적인 단어 인코딩은 gpt-3.5-turbo 과 같은 온라인으로 다운로드됩니다.
    • DATA_GYM_CACHE_DIR : 현재이 구성 함수는 TIKTOKEN_CACHE_DIR 와 일치하지만 우선 순위는 그다지 높지 않습니다.
16. RELAY_TIMEOUT : 릴레이 타임 아웃 설정은 초로 설정되며 타임 아웃 시간은 기본적으로 설정되지 않습니다.
17. RELAY_PROXY :이 프록시를 사용하여 설정 후 API를 요청하십시오.
18. USER_CONTENT_REQUEST_TIMEOUT : 몇 초 만에 사용자가 업로드 한 콘텐츠 다운로드를위한 시간 초과.
19. USER_CONTENT_REQUEST_PROXY : 설정 후이 프록시를 사용하여 이미지와 같은 사용자가 업로드 한 컨텐츠를 요청하십시오.
20. SQLITE_BUSY_TIMEOUT : SQLITE LOCK 타임 아웃 설정 대기, 장치는 밀리 초, 기본값은 3000 입니다.
21. GEMINI_SAFETY_SETTING : gemini의 보안 설정, 기본 BLOCK_NONE .
22. GEMINI_VERSION : 하나의 API에서 사용하는 Gemini 버전, 기본값은 v1 입니다.
23. THEME : 시스템의 테마 설정, 기본값은 default 입니다. 여기에서 특정 선택적 값을 참조하십시오.
24. ENABLE_METRIC : 요청 성공률에 따라 채널을 비활성화할지 여부는 기본적으로 활성화되지 않으며 선택적 값은 true 및 false 입니다.
25. METRIC_QUEUE_SIZE : 요청 성공률 통계 큐 크기, 기본값은 10 입니다.
26. METRIC_SUCCESS_RATE_THRESHOLD : 요청 성공률 임계 값은 기본적으로 0.8 입니다.
27. INITIAL_ROOT_TOKEN :이 값이 설정되면 시스템이 처음 부팅 될 때 환경 변수 값을 가진 루트 사용자 토큰이 자동으로 작성됩니다.
28. INITIAL_ROOT_ACCESS_TOKEN :이 값이 설정되면 시스템이 처음 시작될 때 시스템 관리 토큰이 자동으로 작성됩니다.
29. ENFORCE_INCLUDE_USAGE : 스트림 모델에서 강제 사용을 강제로 반환할지 여부는 기본적으로 활성화되지 않으며 선택적 값은 true 및 false 입니다.

명령 줄 매개 변수

1. --port <port_number> : 서버가 듣는 포트 번호를 지정하고 기본값은 3000 입니다.
   • 예 : --port 3000
2. --log-dir <log_dir> : 로그 폴더가 설정되지 않으면 기본적으로 logs 폴더에 저장됩니다.
   • 예 : --log-dir ./logs
3. --version : 시스템 버전 번호를 인쇄하고 종료하십시오.
4. --help : 명령 사용 도움말 및 매개 변수 설명을 확인하십시오.

데모

온라인 데모

이 데모 사이트는 외부 서비스를 제공하지 않습니다 : https://openai.justsong.cn

스크린 샷 디스플레이

자주 묻는 질문

1. 신용 한도는 얼마입니까? 그것을 계산하는 방법? 하나의 API의 할당량 계산에 문제가 있습니까?
   • 신용 = 그룹화 배율* 모델 확대* (팁 토큰 번호 + 완료 토큰 번호* 완료 확대)
   • 완료 비율은 GPT3.5의 경우 1.33, GPT4의 경우 2로 고정되며, 이는 공무원과 일치합니다.
   • 비 스트림 모드 인 경우 공식 인터페이스는 소비 된 총 토큰을 반환하지만 다른 소비량 및 완료율에주의를 기울여야합니다.
   • 하나의 API의 기본 배율은 조정 된 공식 배율입니다.
2. 계정 할당량에 불충분 한 이유는 무엇입니까?
   • 토큰 제한이 충분한 지 확인하십시오. 이는 계정 제한과 별개입니다.
   • 토큰 제한은 사용자가 최대 사용량을 설정하는 것만이며 사용자는 자유롭게 설정할 수 있습니다.
3. 팁 : 사용할 수있는 채널이 없습니까?
   • 사용자 그룹화 및 채널 그룹화 설정을 확인하십시오.
   • 그리고 채널의 모델 설정.
4. 채널 테스트 오류 : invalid character '<' looking for beginning of value
   • 반환 값이 합법적 인 JSON이 아니라 HTML 페이지이기 때문입니다.
   • 배포 사이트의 IP 또는 프록시 노드가 CloudFlare에 의해 금지되었을 가능성이 높습니다.
5. Chatgpt 다음 웹 오류 : Failed to fetch
   • 배포 할 때 BASE_URL 설정하지 마십시오.
   • 인터페이스 주소와 API 키가 올바르게 채워 졌는지 확인하십시오.
   • HTTPS가 활성화되어 있는지 확인하고 브라우저는 HTTPS 도메인 이름으로 HTTP 요청을 가로 채립니다.
6. 오류 :当前分组负载已饱和，请稍后再试
   • 업스트림 채널 429.
7. 업그레이드 후 내 데이터가 손실됩니까?
   • MySQL을 사용하는 경우에는 그렇지 않습니다.
   • SQLITE를 사용하는 경우 내가 제공 한 배포 명령에 따라 1 개의 API.DB 데이터베이스 파일을 마운트해야합니다. 그렇지 않으면 컨테이너가 다시 시작된 후 데이터가 손실됩니다.
8. 업그레이드하기 전에 데이터베이스를 변경해야합니까?
   • 일반적으로 필요하지 않으며 시스템은 초기화 중에 자동으로 조정됩니다.
   • 필요한 경우 업데이트 로그에서 설명하고 스크립트를 제공합니다.
9. 데이터베이스를 수동으로 수정 한 후 오류가보고되었습니다.数据库一致性已被破坏，请联系管理员.
   • 이것은 능력 테이블의 일부 레코드가 존재하지 않는다는 것을 감지하는 채널 ID입니다. 이는 채널 테이블에서 레코드를 삭제했지만 유효하지 않은 채널을 정리할 수있는 유효하지 않은 채널을 동기화하지 않았기 때문입니다.
   • 각 채널마다 지원되는 모델에는 채널이 모델을 지원한다는 것을 나타내는 특수 능력 테이블의 레코드가 있어야합니다.

관련 프로젝트

• FASTGPT : LLM 대형 언어 모델 기반 지식 기반 Q & A 시스템
• Chatgpt Next Web : 한 번의 클릭으로 나만의 크로스 플랫폼 chatgpt 응용 프로그램이 있습니다.
• VCHART : 상자 밖에서 멀티 엔드 차트 라이브러리 일뿐 만 아니라 생생하고 유연한 데이터 스토리 텔러이기도합니다.
• Vmind : 자동 일뿐 만 아니라 매우 똑똑합니다. 오픈 소스 지능형 시각화 솔루션.

알아채다

이 프로젝트는 MIT 프로토콜을 사용하여 오픈 소스입니다. 속성을 유지하지 않으려면 먼저 승인을 받아야합니다.

이 프로젝트를 기반으로 한 2 차 프로젝트에도 적용됩니다.

MIT 계약에 따르면 사용자는 자체 재량에 따라이 프로젝트를 사용하는 위험과 책임을 부담해야하며,이 오픈 소스 프로젝트의 개발자는 이와 관련이 없습니다.