Openai의 chatgpt, Dall-e, Whisper 및 TTS 용 쉘 포장지. Localai, Ollama, Gemini, Mistral, Groq 및 Github 모델 통합을 특징으로합니다.
기본값으로 스트리밍으로 채팅 완료.
응답에 대한 Markdown 처리는 지금 자동으로 트리거됩니다!
채팅 응답의 Markdown 렌더링 ( 선택 사항 ).
순수한 텍스트 완성에서는 뉴스, 이야기 또는시와 같이 완료 될 텍스트를 입력하여 시작하십시오.
완료 될 삽입 태그 [insert] 을 추가하십시오. Mistral code models Insert / Fill-In-the-Middel (FIM) 모드에서 잘 작동합니다! 접미사가 제공되지 않으면 일반 텍스트 완성으로 작동합니다.
options -cczw )BashcURL 및 JQ특정 기능에 필요한 패키지.
Base64 이미지 종말점, 멀티 모달 모델Python - 모듈 Tiktoken, Markdown, BS4ImageMagick / fbida 이미지 편집 및 변형SoX / Arecord / FFmpeg 레코드 입력 (Whisper)mpv / SoX / Vlc / FFplay / afplay 재생 tts 출력xdg-open / open / xsel / xclip / pbcopy 이미지 열기, 클립 보드 설정W3M / Lynx / ELinks / Links - 덤프 URL 텍스트bat / Pygmentize / Glow / mdcat / mdless -Markdown 지원termux-api / termux-tools / play-audio 용어 시스템poppler / gs / abiword / ebook-convert / LibreOffice 텍스트로 덤프 pdf 또는 docdialog / kdialog / zenity / osascript / termux-dialog 파일 피커 A. 독립형 chatgpt.sh 스크립트를 다운로드하고 실행 가능하게하십시오.
wget https://gitlab.com/fenixdragao/shellchatgpt/-/raw/main/chatgpt.sh
chmod +x ./chatgpt.sh
B. 또는이 repo를 복제하십시오.
git clone https://gitlab.com/fenixdragao/shellchatgpt.git
C. 선택적으로 구성 파일을 다운로드하여 설정 ~/.chatgpt.conf :
#save configuration template:
chatgpt.sh -FF >> ~/.chatgpt.conf
#edit:
chatgpt.sh -F
# Or
vim ~/.chatgpt.conf
명령 줄 options -cc 사용하면 채팅 봇을 생성하기 위해 일부 속성이 자동으로 설정됩니다. 채팅 모드에서 새 세션을 시작하고 다른 온도 ( GPT-3.5 및 GPT-4+ 모델 )를 설정하십시오.
chatgpt.sh -cc -t0.7
최대 응답 길이를 4K 토큰으로 변경하십시오.
chatgpt.sh -cc -4000
chatgpt.sh -cc -M 4000
또는 모델 토큰 용량을 200k 토큰으로 변경하십시오.
chatgpt.sh -cc -4000-200000
chatgpt.sh -cc -M 4000-200000
냉소적 봇인 marv를 만드십시오 :
chatgpt.sh -512 -cc --frequency-penalty=0.7 --temp=0.8 --top_p=0.4 --restart-seq='nYou: ' --start-seq='nMarv:' --stop='You:' --stop='Marv:' -S'Marv is a factual chatbot that reluctantly answers questions with sarcastic responses.'
새 세션에 대해 UNIX 명령 파일 ( "unix.pr")을로드하십시오. 아래 명령 줄 구문은 모든 별칭입니다.
chatgpt.sh -cc .unix
chatgpt.sh -cc.unix
chatgpt.sh -cc -.unix
chatgpt.sh -cc -S .unix
세션이 녹음 될 기록 파일 만 chage하려면 연산자 Forward Slash " / "및 히스토리 파일의 이름 ( /session 명령에 대한 기본값)과 함께 명령 줄에서 첫 번째 위치 인수를 설정하십시오.
chatgpt.sh -cc /test
chatgpt.sh -cc /stest
chatgpt.sh -cc "/session test"
현재 기록 파일에서 이전 세션을로드하는 바로 가기가 있습니다. 기본 인터페이스가 열립니다.
chatgpt.sh -cc .
기술적으로 이것은 대상 기록 파일에서 꼬리까지 이전 세션을 복사하므로 세션을 재개 할 수 있습니다.
기본값과 다른 히스토리 파일에서 이전 세션을로드하려면 몇 가지 옵션이 있습니다.
Regex로 세션을 Grep하려면 채팅 모드에 입력 한 다음 채팅 명령 /grep [regex] 입력하는 것이 더 쉽습니다.
정의 된 기록 파일 이름으로만 변경하려면 run command !session [name] .
마지막 세션 인쇄, 선택적으로 히스토리 이름을 설정하십시오.
chatgpt.sh -P
chatgpt.sh -P /test
image / url 비전 모델로 보내려면 스크립트를 시작한 다음 하나 이상의 FilePaths / URL로 !img 채팅 명령으로 이미지를 설정하십시오.
chatgpt.sh -cc -m gpt-4-vision-preview '!img path/to/image.jpg'
또는 프롬프트 끝에 이미지 경로 / URL을 설정하십시오.
chatgpt.sh -cc -m gpt-4-vision-preview
[...]
Q: In this first user prompt, what can you see? https://i.imgur.com/wpXKyRo.jpeg
팁 : 채팅 명령 실행 !info !
디버그 : RAW JSON 요청 본체를 볼 수 있도록 option -V 설정하십시오.
쉬운 작업을 위해 사용자는 프롬프트 끝에 FilePath 또는 URL을 추가 할 수 있습니다. 그런 다음 파일을 읽고 텍스트 내용을 사용자 프롬프트에 추가했습니다. 이것은 모든 모델에서 작동하는 기본 텍스트 기능입니다.
chatgpt.sh -cc
[...]
Q: What is this page: https://example.com
Q: Help me study this paper. ~/Downloads/Prigogine Perspective on Nature.pdf
위의 두 번째 예 에서는 PDF 가 텍스트 (대화식 모드)로 덤프됩니다.
PDF 텍스트 덤프 지원을 위해서는 poppler/abiword 필요합니다. 문서 및 ODT 파일의 경우 LibreOffice 가 필요합니다. 선택적 패키지 섹션을 참조하십시오.
또한 흰색 공간을 포함하는 파일 경로는 블랙 슬래시 에 이루어야하거나 Filepath는 파이프에 앞서야합니다 | 성격.
My text prompt. | path/to the file.jpg
여러 이미지와 오디오 파일이 이러한 방식으로 프롬프트를 추가 할 수 있습니다!
/pick 명령은 파일 선택기 (일반적으로 명령 줄 파일 관리자)를 엽니 다. 선택한 파일의 경로는 편집 모드의 현재 프롬프트에 추가됩니다.
/pick 및 /sh 명령은 [PROMPT] /sh 와 같은 현재 프롬프트 끝에 입력 할 때 실행될 수 있으며, 이는 새 쉘 인스턴스를 열어서 명령을 대화식으로 실행합니다. 이 명령의 출력은 현재 프롬프트에 추가됩니다.
프롬프트 끝에서 /pick 명령이 실행되면 선택한 파일 경로가 대신 추가됩니다.
흰색 공간을 포함하는 파일 경로 에는 일부 기능으로 백 슬래시 에스케이프가 필요합니다.
Speech In and Out과 함께 채팅 완료 (Whisper Plus TTS) :
chatgpt.sh -ccwz
Whisper와 포르투갈어에서 채팅하고 Onyx를 TTS Voice로 설정하십시오.
chatgpt.sh -ccwz -- pt -- onyx
채팅 모드는 대화 경험을 제공하여 사용자가 각 단계를 확인하도록 촉구합니다.
보다 자동화 된 실행을 위해 option -v 및 -vv 핸즈프리 경험 (Silence Detection과 라이브 채팅 )으로 설정하십시오.
chatgpt.sh -cc -w -z -v
chatgpt.sh -cc -w -z -vv
gpt-4o-audio 와 같은 오디오 모델은 오디오 입력 및 출력을 직접 처리하여 대화 회전에서 대기 시간을 줄입니다.
스크립트의 마이크 기록 기능을 활성화하려면 명령 줄 option -w 설정하십시오.
그렇지 않으면 오디오 모델은 호환 가능한 오디오 파일 (예 : MP3 , Wav 및 Opus )을 허용합니다. 이 파일은 사용자 프롬프트의 끝에서로드하거나 채팅 명령 /audio path/to/file.mp3 추가 할 수 있습니다.
위에서 설명한 것과 유사하게 오디오 모델의 오디오 출력 모드를 활성화하려면 명령 줄 option -z 설정하여 음성 합성 기능을 활성화하십시오!
chatgpt.sh -cc -w -z -vv -m "gpt-4o-audio-preview"
이것은 실시간 모델을 구현 하지 않습니다 .
option -c 와 채팅하기 위해 텍스트 완료가 설정되면 일부 속성은 봇에 지시되도록 자동으로 구성됩니다.
chatgpt.sh -c "Hello there! What is your name?"
이것은 순수한 텍스트 완성 엔드 포인트입니다. 일반적으로 에세이의 일부를 완료하는 것과 같은 입력 텍스트를 완료하는 데 사용됩니다.
명령 줄 입력 프롬프트에서 텍스트를 작성하려면 option -d 설정하거나 텍스트 완료 모델 이름을 설정하십시오.
chatgpt.sh -128 -m gpt-3.5-turbo-instruct "Hello there! Your name is"
chatgpt.sh -128 -d "The journalist loo"
위의 예는 또한 최대 응답 값을 128 토큰으로 설정합니다.
단일 회전 대화식 모드 입력 :
chatgpt.sh -d
참고 : 히스토리 지원이 포함 된 다중 회전 모드의 경우 option -dd 설정하십시오.
언어 모델이 필요한 것을 수행하려면 강력한 지시 프롬프트가 필요할 수 있습니다.
더 나은 결과를 얻으려면 명령어 프롬프트를 설정하십시오.
chatgpt.sh -d -S 'The following is a newspaper article.' "It all starts when FBI agents arrived at the governor house and"
chatgpt.sh -d -S'You are an AI assistant.' "The list below contain the 10 biggest cities in the w"
option -q (또는 Multiturn의 경우 -qq )를 설정하려면 삽입 모드를 활성화하고 모델이 텍스트를 삽입 해야하는 문자열 [insert] 추가하십시오.
chatgpt.sh -q 'It was raining when [insert] tomorrow.'
참고 : 이 예제는 명령 프롬프트없이 작동합니다! 이 모드의 명령 프롬프트는 삽입 완료를 방해 할 수 있습니다.
참고 : 모드 삽입 모드는 모델 instruct models 과 함께 작동합니다.
Mistral AI는 code 모델과 함께 작동하고 정말 좋습니다.
Markdown 응답 렌더링을 활성화하려면 채팅 모드에서 명령 줄 option --markdown 또는 실행 /md 설정하십시오. Markdown에서 마지막 응답을 한 번 렌더링하려면 //md 실행하십시오.
Markdown 옵션은 기본값으로 라인 버퍼링이 있으므로 bat 사용하지만 다른 소프트웨어는 지원됩니다. 채팅 모드에서 --markdown=glow 또는 /md mdless 와 같이 설정하십시오.
다음 Markdown 소프트웨어를 옵션에 대한 인수로 입력하십시오 : bat , pygmentize , glow , mdcat 또는 mdless .
채팅 option -c 또는 -cc 설정되지 않으면 언어 모델에 대한 명령이 제공되지 않습니다 . 채팅 모드에서 지침이 설정되지 않으면 최소한의 지시가 제공되고 봇을 방해하지 않기 위해 온도 및 존재 페널티 증가와 같은 일부 옵션이 설정됩니다.
프롬프트 엔지니어링은 그 자체로 예술입니다. 텍스트, 코드 및 채팅 완료 모델을 최대한 활용하기 위해 최고의 프롬프트를 제작하는 방법을 신중하게 연구하십시오.
모델 스티어링 및 기능은 질문에 답해야한다는 것을 알기 위해 신속한 엔지니어링이 필요합니다.
option -S 로 원샷 명령 프롬프트를 설정하십시오.
chatgpt.sh -cc -S 'You are a PhD psycologist student.'
chatgpt.sh -ccS'You are a professional software programmer.'
프롬프트 템플릿 파일을 만들거나로드하려면 첫 번째 위치 인수를 .prompt_name 또는 ,prompt_name 으로 설정하십시오. 두 번째 경우 프롬프트와 단일 샷 편집을로드하십시오.
chatgpt.sh -cc .psycologist
chatgpt.sh -cc ,software_programmer
또는 연산자로 option -S 설정하고 프롬프트 이름을 인수로 설정하십시오.
chatgpt.sh -cc -S .psycologist
chatgpt.sh -cc -S,software_programmer
사용자 정의 프롬프트가로드되거나 아직 존재하지 않으면 작성됩니다. 두 번째 예에서는 프롬프트 소프트웨어_programmer를 로드 한 후 단일 샷 편집을 사용할 수 있습니다.
중요한 사용자 정의 프롬프트를 백업하십시오! 그들은 " ~/.cache/chatgptsh/ "with the Extension " .pr "에 있습니다.
Awesome-Chatgpt-Prompts 또는 Awesome-Chatgpt-Prompts-Zh (Davinci 및 GPT-3.5+ 모델 사용)에서 프롬프트를 설정하십시오.
chatgpt.sh -cc -S /linux_terminal
chatgpt.sh -cc -S /Relationship_Coach
chatgpt.sh -cc -S '%担任雅思写作考官'
이 프로젝트에는 사용자 명령 줄 경험을 향상시키기위한 쉘 완성이 포함되어 있습니다.
아래 방법 중 하나를 설치하십시오 .
시스템 전체
sudo cp comp/bash/chatgpt.sh /usr/share/bash-completion/completions/
사용자 별
mkdir -p ~/.local/share/bash-completion/completions/
cp comp/bash/chatgpt.sh ~/.local/share/bash-completion/completions/
Bash-Completion 저장소를 방문하십시오.
시스템 위치 에 설치하십시오
sudo cp comp/zsh/_chatgpt.sh /usr/share/zsh/site-functions/
사용자 별 위치
사용자 별 완료를 설정하려면 완료 스크립트를 $fpath 배열의 디렉토리 아래에 배치하십시오.
사용자는 예를 들어 ~/.zfunc/ 디렉토리를 생성하고 다음 줄을 ~/.zshrc 에 추가 할 수 있습니다.
[[ -d ~/.zfunc ]] && fpath=(~/.zfunc $fpath)
autoload -Uz compinit
compinit
$fpath 설정 한 후 compinit 실행되는지 확인하십시오!
ZSH- 완성 저장소를 방문하십시오.
Bash 및 Zsh 완성은 새로운 터미널 세션에서 활성화되어야합니다. 그렇지 않은 경우 ~/.bashrc 및 ~/.zshrc 가 완성 파일을 올바르게 소송하십시오.
YouTube 기능에는 YouTube 비디오 제목 제목과 해당 성적표 만 제공됩니다 (사용 가능한 경우).
PDF 지원 기능은 PDF 텍스트 ( 이미지 없음 )를 추출하여 사용자 요청에 추가합니다.
어느 작업자 와 함께 채팅 명령을 실행하십시오 ! 또는 / .
컨텍스트 주입을 위해 명령 !hist 로 라이브 역사 항목을 편집하십시오.
/ 를 입력하여 응답을 재생시킬 수 // . 프롬프트에 따라 이미지 생성 :
chatgpt.sh -i "Dark tower in the middle of a field of red roses."
chatgpt.sh -i "512x512" "A tower."
이미지 변형 생성 :
chatgpt.sh -i path/to/image.png
chatgpt.sh -i path/to/image.png path/to/mask.png "A pink flamingo."
이 예에서 마스크는 흰색으로 만들어집니다.
밤하늘에 박쥐를 추가합니다.
오디오 파일 연설에서 전사를 생성합니다. 모델 스타일을 안내하라는 프롬프트는 선택 사항입니다. 프롬프트는 음성 언어와 일치해야합니다.
chatgpt.sh -w path/to/audio.mp3
chatgpt.sh -w path/to/audio.mp3 "en" "This is a poem about X."
1. 음성 녹음에서 전사를 생성하고 포르투갈어를 다음에 전사 할 언어로 설정하십시오.
chatgpt.sh -w pt
이것은 또한 한 언어에서 다른 언어로 전사하는 것도 작동합니다.
2. 언어 음성 입력을 일본어로 전사합니다 ( 프롬프트는 입력 오디오 언어와 동일한 언어로되어야합니다) :
chatgpt.sh -w ja "A job interview is currently being done."
3.1 영어 음성 입력을 일본어로 번역하고 텍스트 응답에서 음성 출력을 생성합니다.
chatgpt.sh -wz ja "Getting directions to famous places in the city."
3.2 반대로, 이것은 다른 언어의 두 스피커의 대화를 (수동) 대화 할 수있는 기회를 제공합니다. 아래에서 일본 스피커는 음성을 번역하고 대상 언어로 오디오를 생성 할 수 있습니다.
chatgpt.sh -wz en "Providing directions to famous places in the city."
4. 모든 언어에서 영어로 연설을 번역하십시오.
chatgpt.sh -W [audio_file]
chatgpt.sh -W
캐시에 저장된 마지막 마이크 기록을 다시 시도하려면 Audio_file을 last 또는 retry 로 설정하십시오.
참고 : 구절 수준 타임 스탬프를 생성합니다. 이중 설정 option -ww 또는 option -WW . 단어 수준 타임 스탬프 의 경우 옵션 -www 또는 -WWW 설정하십시오.
Mudler의 Localai, 서버가 설정 및 실행되었는지 확인하십시오.
서버는 Docker 컨테이너로 실행하거나 바이너리를 다운로드 할 수 있습니다. Localai 자습서 컨테이너 이미지를 확인하고 모델을 설치하고, 모델을 다운로드하고 설정하는 방법에 대한 아이디어를 수동으로 실행하십시오.
┌───────────────────────────────────────────────────┐
│ Fiber v2.50.0 │
│ http://127.0.0.1:8080 │
│ (bound on host 0.0.0.0 and port 8080) │
│ │
│ Handlers ............. 1 Processes ........... 1 │
│ Prefork ....... Disabled PID ..................1 │
└───────────────────────────────────────────────────┘
1. Mudler의 릴리스 Github Repo에서 시스템에 대한 localai 의 이진을 다운로드하십시오.
2. Comamnd 라인 옵션 및 환경 변수를 확인하려면 localai run --help 실행하십시오.
3. 서버를 시작하기 전에 $GALLERIES 설정하십시오.
export GALLERIES='[{"name":"localai", "url":"github:mudler/localai/gallery/index.yaml"}]' #defaults
export GALLERIES='[{"name":"model-gallery", "url":"github:go-skynet/model-gallery/index.yaml"}]'
export GALLERIES='[{"name":"huggingface", "url": "github:go-skynet/model-gallery/huggingface.yaml"}]'
4. 서버가 실행중인 동안 수동으로 yaml 파일에서 phi-2-chat 이라는 모델을 설치하십시오.
curl -L http://localhost:8080/models/apply -H "Content-Type: application/json" -d '{ "config_url": "https://raw.githubusercontent.com/mudler/LocalAI/master/embedded/models/phi-2-chat.yaml" }'
마지막으로 chatgpt.sh 실행할 때 모델 이름을 설정합니다.
chatgpt.sh --localai -cc -m luna-ai-llama2
모델이 과거 텍스트를 생성하는 것을 방지하기 위해 일부 정지 시퀀스 설정이 필요할 수 있습니다.
chatgpt.sh --localai -cc -m luna-ai-llama2 -s'### User:' -s'### Response:'
텍스트 완성의 재시작 및 시작 시퀀스를 선택적 option -c 설정하고 -s'n### User: ' -s'n### Response:' (newlines n 및 whitespace를 올바르게 설정).
그리고 그게 다야!
모델 이름은 chatgpt.sh -l 로 인쇄 될 수 있습니다. 모델이 인수로 제공 될 수 있으므로 해당 모델 세부 사항 만 표시됩니다.
참고 : 모델 관리 (다운로드 및 설정)는 LocalAI 및 Ollama 프로젝트 지침 및 방법을 따라야합니다.
이미지 생성의 경우 URL github:go-skynet/model-gallery/stablediffusion.yaml 에서 안정적인 확산을 설치하고 음성 전사의 경우 URL github:go-skynet/model-gallery/whisper-base.yaml 에서 Whisper를 다운로드하십시오.
서비스 제공 업체 기반 URL이 기본값과 다른 경우
환경 varible $OPENAI_BASE_URL 호출시 읽습니다.
export OPENAI_BASE_URL="http://127.0.0.1:8080/v1"
chatgpt.sh -c -m luna-ai-llama2
보다 영구적 인 방식으로 설정하려면 스크립트 구성 파일 .chatgpt.conf 를 편집하십시오.
VIM 사용 :
vim ~/.chatgpt.conf
또는 comamnd 줄 옵션으로 구성을 편집하십시오.
chatgpt.sh -F
다음 변수를 설정하십시오.
# ~/.chatgpt.conf
OPENAI_BASE_URL="http://127.0.0.1:8080/v1"
Ollama 저장소를 방문하여 지침을 따라 설치하고 모델을 다운로드하고 서버를 설정하십시오.
Ollama 서버를 실행 한 후 option -O ( --ollama ) 및 chatgpt.sh 의 모델 이름을 설정합니다.
chatgpt.sh -cc -O -m llama2
Ollama Server URL이 기본값이 아닌 경우 http://localhost:11434 , chatgpt.sh 구성 파일을 편집하고 다음 변수를 설정하십시오.
# ~/.chatgpt.conf
OLLAMA_BASE_URL="http://192.168.0.3:11434"
Gemini 및 Vision 모델을 사용할 수있는 Google의 무료 API 키를 얻으십시오. 사용자는 분당 60 개의 요청에 대한 무료 대역폭이 있으며 스크립트는 API의 기본 구현을 제공합니다.
Enviroment 변수 $GOOGLE_API_KEY 설정하고 option --google 으로 스크립트를 실행하십시오.
chatgpt.sh --google -cc -m gemini-pro-vision
OBS : Google Gemini Vision 모델은 API 측에서 Multiturn을 위해 활성화 되지 않으므로 해킹합니다.
사용 가능한 모든 모델을 나열하려면 chatgpt.sh --google -l 실행하십시오.
Mistral AI 계정을 설정하고 Enviroment 변수 $MISTRAL_API_KEY 선언 한 다음 option --mistral 역량을 실행하십시오.
Groq에 로그인하십시오. 새 API 키를 만들거나 기존 키를 사용하여 환경 변수 $GROQ_API_KEY 설정하십시오. option --groq 로 스크립트를 실행하십시오.
현재 LLAMMA3.1 모델은 가벼운 속도로 제공됩니다!
Antropic AI에 로그인하십시오. 새 API 키를 만들거나 기존 키를 사용하여 환경 변수 $ANTHROPIC_API_KEY 설정하십시오. option --anthropic 또는 --ant 로 스크립트를 실행하십시오.
Claude-3 모델을 확인하십시오! 스크립트를 다음과 같이 실행합니다.
chatgpt.sh --anthropic -cc -m claude-3-5-sonnet-20240620
이 스크립트는 claude-2.1 과 같은 모델로 텍스트 완성 에서도 작동하지만 API 문서는이를 사용하지 않는 것으로 표시합니다.
노력하다:
chatgpt.sh --ant -c -m claude-2.1
Github는 Azure와 파트너십을 맺어 적외선을 사용했습니다.
GitHub 사용자로서 대기자 명단에 가입 한 다음 개인 토큰을 생성하십시오. 환경 변수 $GITHUB_TOKEN 설정하고 option --github 또는 --git 으로 스크립트를 실행하십시오.
온라인 모델 목록을 확인하거나 chatgpt.sh --github -l 로 사용 가능한 모델과 원래 이름을 나열하십시오.
chatgpt.sh --github -cc -m Phi-3-small-8k-instruct
Github 모델 카탈로그 - 시작 페이지도 참조하십시오.
Novita AI는 가격과 성능의 최상의 균형을 제공하는 강력한 권장 LLAMA 3.3 모델을 포함하여 탁월한 가치의 LLM 모델을 제공합니다!
무수정 모델의 경우 SAO10K/L3-70B-EURYALE-V2.1 (Creative Assistant and Role-Playing) 또는 CognitiveCecomputations/Dolphin-Mixtral-8x22B를 고려하십시오.
빠른 시작 가이드에 따라 API 키를 만들고 키를 환경에 $NOVITA_API_KEY 로 내보내십시오.
다음으로 chatgpt.sh --novita -cc 와 같은 스크립트를 실행하십시오.
모델 목록 웹 페이지와 각 모델의 가격을 확인하십시오.
사용 가능한 모든 모델을 나열하려면 chatgpt.sh --novita -l 실행하십시오. 선택적으로 option -l 에서 덤프 모델 세부 정보로 모델 이름을 설정합니다.
일부 모델은 /completions 엔드 포인트에서 작동하는 반면 다른 모델은 /chat/completions 엔드 포인트에서 작동하므로 스크립트가 엔드 포인트를 자동으로 설정하지 않습니다 ! 모델 세부 사항 및 웹 페이지를 확인하여 기능을 이해 한 다음 option -c ( 텍스트 완료 ) 또는 options -cc ( 채팅 완료 )로 스크립트를 실행하십시오.
연습으로 명령 줄 option --novita 대신 Novita AI 통합을 수동으로 설정하십시오.
export OPENAI_API_KEY=novita-api-key
export OPENAI_BASE_URL="https://api.novita.ai/v3/openai"
chatgpt.sh -cc -m meta-llama/llama-3.1-405b-instruct
우리는 Novita AI에게 그들의 지원과 협력에 감사드립니다. 자세한 내용은 Novita AI를 방문하십시오.
Xai Grok을 방문하여 API 키를 생성하십시오 (환경 $XAI_API_KEY ).
option --xai 와 option -cc (채팅 완료)로 스크립트를 실행하십시오.
일부 모델은 기본 텍스트 완성과 함께 작동합니다. 이를 위해 대신 명령 줄 option -c 설정하십시오.
이 프로젝트 PKGBuild는 ARC (Arch Linux User Repository)에서 Arch Linux 및 파생 배포판에 소프트웨어를 설치할 수 있습니다.
AUR에서 프로그램을 설치하려면 yay 또는 paru 와 같은 AUR 도우미를 사용할 수 있습니다. 예를 들어, yay :
yay -S chatgpt.sh
F-Droid 스토어 에서 Termux 및 Termux:API 앱을 설치하십시오.
휴대 전화 앱 설정에서 Termux:API 에 모든 권한을 부여하십시오.
우리는 또한 sox , ffmpeg , pulseaudio , imagemagick 및 vim (또는 nano )을 설치하도록 권장합니다.
전화 저장소에 대한 액세스를 설정하려면 termux-setup-storage 실행해야합니다.
Termux 적절한 경우 termux-api 및 termux-tools 패키지 ( pkg install termux-api termux-tools )를 설치하십시오.
오디오 (Whisper, option -w )를 녹화 할 때 pulseaudio termux-microphone-record 구성되면 스크립트는 sox , ffmpeg 또는 기타 유능한 소프트웨어를 사용합니다.
마찬가지로, pulseaudio 구성에 따라 오디오 (tts, option -z )를 재생할 때 sox , mpv 또는 Termux 래퍼 재생에 대한 폴백 ( play-audio 는 선택 사항)에 따라 사용됩니다.
클립 보드를 설정하려면 termux-api 패키지에서 termux-clipboard-set 필요합니다.
TTS 입력의 마크 다운은 모델 음성 생성을 조금 말더듬 할 수 있습니다. python 모듈 markdown 및 bs4 를 사용할 수 있으면 TTS 입력이 일반 텍스트로 변환됩니다. 폴백으로, pandoc 현재 (채팅 모드 만)에 사용됩니다.
Termux에서는 tiktoken 구축하기위한 python , rust 및 rustc-dev 패키지로 시스템을 업데이트하고 설치해야합니다.
pkg update
pkg upgrade
pkg install python rust rustc-dev
pip install tiktoken
마이크 기록 및 오디오 재생 ( sox 및 ffmpeg 포함)에 대한 용어 액세스를 설정하려면 아래 지침을 따르십시오.
A. pulseaudio 한 번만 설정하고 실행하십시오.
pulseaudio -k
pulseaudio -L "module-sles-source" -D
B. 영구 구성을 설정하려면 :
pulseaudio -k 로 프로세스를 죽입니다.load-module module-sles-source 추가하십시오. ~/.config/pulse/default.pa
/data/data/com.termux/files/usr/etc/pulse/default.pa
pulseaudio -D 로 서버를 다시 시작하십시오. C. 새 사용자를 만들려면 ~/.config/pulse/default.pa 만들려면 다음 템플릿으로 시작할 수 있습니다.
#!/usr/bin/pulseaudio -nF
.include /data/data/com.termux/files/usr/etc/pulse/default.pa
load-module module-sles-source
Android의 파일 관리자를 사용하여 Termux 파일에 액세스하려면 Play 스토어에서 FX File Explorer 와 같은 괜찮은 파일 관리자를 설치하거나 구성하는 Termux Terminal에서 다음 명령을 실행하십시오.
am start -a android.intent.action.VIEW -d "content://com.android.externalstorage.documents/root/primary"
출처 : https://www.reddit.com/r/termux/comments/182g7np/where_do_i_find_things_that_i_downloaded/
OpenAI API version 1 에서 멋진 기능을 구현하십시오.
가장 가까운 API 기본값을 제공하십시오.
사용자가 기본값을 (숙제로) 사용자 정의하도록하십시오.
chatgpt.sh version 1.0 의 Première는 OpenAI가 다음 주요 API 버전 업데이트를 시작할 때 발생해야합니다.
메리 2024 grav mass!
OpenAI API 버전 1은 현재 프로젝트 구현의 초점입니다. API의 모든 기능이 다루는 것은 아닙니다.
이 프로젝트는 "기능 호출"또는 "구조화 된 출력"을 지원 하지 않습니다 .
아마도 우리는 "실시간"채팅 또는 비디오 양식을 지원 하지 않을 것입니다 .
배쉬 쉘은 입력을