shellChatGPT
1.0.0
Shell Wrapper สำหรับ Chatgpt ของ Openai, Dall-E, Whisper และ TTS คุณสมบัติ Localai, Ollama, Gemini, Mistral, Groq และ GitHub Models Integration
การแชทเสร็จสมบูรณ์ด้วยการสตรีมโดยค่าเริ่มต้น
การประมวลผล Markdown ในการตอบสนองจะถูกเรียกโดยอัตโนมัติในบางครั้งแล้ว!
การแสดงการตอบกลับของ Markdown ( ไม่บังคับ )
ในการเติมข้อความบริสุทธิ์เริ่มต้นด้วยการพิมพ์ข้อความบางส่วนที่จะเสร็จสมบูรณ์เช่นข่าวเรื่องราวหรือบทกวี
เพิ่มแท็กแทรก [insert] ซึ่งจะเสร็จสิ้น code models MISTRAL ทำงานได้ดีกับโหมดแทรก / เติมในกลาง (FIM)! หากไม่มีคำต่อท้ายมันจะทำงานเป็นข้อความที่สมบูรณ์
options -cczw )BashcURL และ JQแพ็คเกจที่จำเป็นสำหรับคุณสมบัติเฉพาะ
Base64 - จุดสิ้นสุดของภาพ, รุ่นหลายรูปแบบPython - โมดูล Tiktoken, Markdown, BS4ImageMagick / fbida - การแก้ไขภาพและรูปแบบSoX / Arecord / FFmpeg - บันทึกอินพุต (Whisper)mpv / SoX / Vlc / FFplay / afplay - เล่นเอาต์พุต TTSxdg-open / open / xsel / xclip / pbcopy - Open Images, Set ClipboardW3M / Lynx / ELinks / Links - ข้อความ Dump URLbat / Pygmentize / Glow / mdcat / mdless - การสนับสนุน Markdowntermux-api / termux-tools / play-audio ระบบ Termuxpoppler / gs / abiword / ebook-convert / LibreOffice - dump pdf หรือ doc เป็นข้อความdialog / kdialog / zenity / osascript / termux-dialog - ตัวเลือกไฟล์ A. ดาวน์โหลดสคริปต์ Stand-Alone chatgpt.sh และทำให้สามารถใช้งานได้:
wget https://gitlab.com/fenixdragao/shellchatgpt/-/raw/main/chatgpt.sh
chmod +x ./chatgpt.sh
B. หรือโคลน repo นี้:
git clone https://gitlab.com/fenixdragao/shellchatgpt.git
C. เป็นทางเลือกดาวน์โหลดและตั้งค่าไฟล์การกำหนดค่า ~/.chatgpt.conf :
#save configuration template:
chatgpt.sh -FF >> ~/.chatgpt.conf
#edit:
chatgpt.sh -F
# Or
vim ~/.chatgpt.conf
ด้วย options -cc คุณสมบัติบางอย่างจะถูกตั้งค่าโดยอัตโนมัติเพื่อสร้างบอทแชท เริ่มเซสชันใหม่ในโหมดแชทและตั้งค่าอุณหภูมิที่แตกต่างกัน ( GPT-3.5 และ GPT-4+ รุ่น ):
chatgpt.sh -cc -t0.7
เปลี่ยนความยาวการตอบสนองสูงสุดเป็นโทเค็น 4K:
chatgpt.sh -cc -4000
chatgpt.sh -cc -M 4000
หรือเปลี่ยนความจุโทเค็นโมเดลเป็นโทเค็น 200K:
chatgpt.sh -cc -4000-200000
chatgpt.sh -cc -M 4000-200000
สร้าง Marv, Bot ถากถาง :
chatgpt.sh -512 -cc --frequency-penalty=0.7 --temp=0.8 --top_p=0.4 --restart-seq='nYou: ' --start-seq='nMarv:' --stop='You:' --stop='Marv:' -S'Marv is a factual chatbot that reluctantly answers questions with sarcastic responses.'
โหลดไฟล์ คำสั่ง UNIX ("unix.pr") สำหรับเซสชันใหม่ ไวยากรณ์บรรทัดคำสั่งด้านล่างคือนามแฝงทั้งหมด:
chatgpt.sh -cc .unix
chatgpt.sh -cc.unix
chatgpt.sh -cc -.unix
chatgpt.sh -cc -S .unix
หากต้องการเฉพาะไฟล์ประวัติที่จะบันทึกเซสชันให้ตั้งค่าอาร์กิวเมนต์ตำแหน่งแรกในบรรทัดคำสั่งกับตัวดำเนินการไปข้างหน้า Slash " / " และชื่อของไฟล์ประวัติ (ค่าเริ่มต้นเป็นคำสั่ง /session )
chatgpt.sh -cc /test
chatgpt.sh -cc /stest
chatgpt.sh -cc "/session test"
มีทางลัดในการโหลดเซสชันที่เก่ากว่าจากไฟล์ประวัติปัจจุบัน สิ่งนี้จะเปิดอินเทอร์เฟซแบบอินเทอร์เฟซพื้นฐาน
chatgpt.sh -cc .
ในทางเทคนิคนี้จะคัดลอกเซสชันเก่าจากไฟล์ประวัติเป้าหมายไปยังหางของมันดังนั้นเราจึงสามารถกลับมาใช้งานเซสชันได้
ในการโหลดเซสชันเก่าจากไฟล์ประวัติที่แตกต่างจากค่าเริ่มต้นมีตัวเลือกบางอย่าง
ในการที่จะเข้าร่วมเซสชันด้วย regex มันง่ายกว่าที่จะเข้าสู่โหมดแชทจากนั้นพิมพ์คำสั่งแชท /grep [regex]
หากต้องการเปลี่ยนเป็นชื่อไฟล์ประวัติที่กำหนดเท่านั้นให้เรียกใช้คำสั่ง !session [name]
พิมพ์เซสชันล่าสุดเลือกตั้งชื่อประวัติ:
chatgpt.sh -P
chatgpt.sh -P /test
ในการส่ง image / url ไปยังรุ่น Vision ให้เริ่มสคริปต์จากนั้นตั้งค่าภาพด้วยคำสั่ง !img Chat ด้วยหนึ่งหรือมากกว่าหนึ่ง filePaths / URL
chatgpt.sh -cc -m gpt-4-vision-preview '!img path/to/image.jpg'
อีกทางเลือกหนึ่งตั้งค่าเส้นทางภาพ / URL ในตอนท้ายของพรอมต์:
chatgpt.sh -cc -m gpt-4-vision-preview
[...]
Q: In this first user prompt, what can you see? https://i.imgur.com/wpXKyRo.jpeg
เคล็ดลับ: เรียกใช้คำสั่งแชท !info เพื่อตรวจสอบการกำหนดค่ารุ่น!
DEBUG: SET option -V เพื่อดู Body Request Raw JSON
เพื่อให้สามารถทำงานได้ง่ายผู้ใช้อาจเพิ่ม filepath หรือ URL ในตอนท้ายของพรอมต์ ไฟล์จะถูกอ่านและเนื้อหาข้อความผนวกเข้ากับพรอมต์ของผู้ใช้ นี่คือคุณสมบัติข้อความพื้นฐานที่ใช้งานได้กับทุกรุ่น
chatgpt.sh -cc
[...]
Q: What is this page: https://example.com
Q: Help me study this paper. ~/Downloads/Prigogine Perspective on Nature.pdf
ใน ตัวอย่างที่สองด้าน บน PDF จะถูกทิ้งเป็นข้อความ (โหมดอินเทอร์แอคทีฟ)
สำหรับการสนับสนุนการถ่ายโอนข้อมูลข้อความ PDF จำเป็นต้องใช้ poppler/abiword สำหรับไฟล์ DOC และ ODT จำเป็นต้องมี LibreOffice ดูส่วนแพ็คเกจเสริม
นอกจากนี้โปรดทราบว่าเส้นทางไฟล์ที่มีช่องว่างสีขาวจะต้องถูก อ้อนวอน Blackslash หรือ FilePath จะต้องนำหน้าด้วยท่อ | อักขระ.
My text prompt. | path/to the file.jpg
รูปภาพและไฟล์เสียงหลายไฟล์อาจต่อท้ายพรอมต์ด้วยวิธีนี้!
คำสั่ง /pick จะเปิดตัวเลือกไฟล์ (โดยปกติจะเป็นตัวจัดการไฟล์บรรทัดคำสั่ง) พา ธ ไฟล์ที่เลือกจะถูกผนวกเข้ากับพรอมต์ปัจจุบันในโหมดแก้ไข
คำสั่ง /pick และ /sh อาจเรียกใช้เมื่อพิมพ์ที่ส่วนท้ายของพรอมต์ปัจจุบันเช่น [PROMPT] /sh ซึ่งเปิดอินสแตนซ์เชลล์ใหม่เพื่อเรียกใช้คำสั่งแบบโต้ตอบ ผลลัพธ์ของคำสั่งเหล่านี้จะถูกผนวกเข้ากับพรอมต์ปัจจุบัน
เมื่อคำสั่ง /pick ทำงานที่ส่วนท้ายของพรอมต์พา ธ ไฟล์ที่เลือกจะถูกต่อท้ายแทน
เส้นทางไฟล์ ที่มีช่องว่างสีขาวจำเป็นต้องมีการหายใจกลับในบางฟังก์ชั่น
แชทเสร็จสมบูรณ์ด้วยการพูดเข้าและออก (Whisper Plus TTS):
chatgpt.sh -ccwz
แชทในภาษาโปรตุเกสด้วยเสียงกระซิบและตั้ง Onyx เป็นเสียง TTS:
chatgpt.sh -ccwz -- pt -- onyx
โหมดแชท ให้ประสบการณ์การสนทนาทำให้ผู้ใช้ยืนยันแต่ละขั้นตอน
สำหรับการดำเนินการอัตโนมัติเพิ่มเติมให้ตั้งค่า option -v และ -vv สำหรับประสบการณ์แบบแฮนด์ฟรี ( แชทสด พร้อมการตรวจจับความเงียบ) เช่น:
chatgpt.sh -cc -w -z -v
chatgpt.sh -cc -w -z -vv
โมเดลเสียงเช่น gpt-4o-audio จัดการกับอินพุตเสียงและเอาต์พุตโดยตรงซึ่งจะช่วยลดเวลาแฝงในการสนทนา
ในการเปิดใช้งานฟังก์ชันการบันทึกไมโครโฟนของสคริปต์ให้ตั้งค่า option -w
มิฉะนั้นโมเดลเสียงจะยอมรับไฟล์เสียงที่เข้ากันได้ (เช่น mp3 , wav และ opus ) ไฟล์เหล่านี้สามารถเพิ่มได้ในตอนท้ายของพรอมต์ผู้ใช้หรือเพิ่มด้วยคำสั่งแชท /audio path/to/file.mp3
ในทำนองเดียวกันตามที่อธิบายไว้ข้างต้นเพื่อเปิดใช้งานโหมดเอาต์พุตเสียงของโมเดลเสียงให้ตั้ง option -z เพื่อให้แน่ใจว่าได้เปิดใช้งานฟังก์ชั่นการสังเคราะห์คำพูด!
chatgpt.sh -cc -w -z -vv -m "gpt-4o-audio-preview"
โปรดทราบว่าสิ่งนี้ ไม่ได้ ใช้ แบบจำลองเรียลไทม์
เมื่อมีการตั้งค่าความสมบูรณ์ของข้อความสำหรับการแชทด้วย option -c คุณสมบัติบางอย่างจะถูกกำหนดค่าโดยอัตโนมัติเพื่อสอนบอท
chatgpt.sh -c "Hello there! What is your name?"
นี่คือจุดสิ้นสุดของข้อความที่สมบูรณ์ โดยทั่วไปแล้วจะใช้เพื่อทำข้อความอินพุตให้กรอกเช่นการเขียนเรียงความให้เสร็จสมบูรณ์
ในการกรอกข้อความจากพรอมต์อินพุตบรรทัดคำสั่งให้ตั้งค่า option -d หรือตั้งชื่อรูปแบบการกรอกข้อความ
chatgpt.sh -128 -m gpt-3.5-turbo-instruct "Hello there! Your name is"
chatgpt.sh -128 -d "The journalist loo"
ตัวอย่างข้างต้นยังกำหนดค่าการตอบสนองสูงสุดเป็น 128 โทเค็น
เข้าสู่โหมดอินเทอร์แอคทีฟแบบเลี้ยวเดี่ยว:
chatgpt.sh -d
หมายเหตุ: สำหรับโหมดหลายเทิร์นที่มีการสนับสนุนประวัติให้ตั้งค่า option -dd
อาจจำเป็นต้องมีการให้คำแนะนำที่แข็งแกร่งสำหรับแบบจำลองภาษาเพื่อทำสิ่งที่จำเป็น
ตั้งค่าพรอมต์คำสั่งเพื่อผลลัพธ์ที่ดีกว่า:
chatgpt.sh -d -S 'The following is a newspaper article.' "It all starts when FBI agents arrived at the governor house and"
chatgpt.sh -d -S'You are an AI assistant.' "The list below contain the 10 biggest cities in the w"
ตั้งค่า option -q (หรือ -qq สำหรับมัลติเทิร์น) เพื่อเปิดใช้งานโหมดแทรกและเพิ่มสตริง [insert] โดยที่โมเดลควรแทรกข้อความ:
chatgpt.sh -q 'It was raining when [insert] tomorrow.'
หมายเหตุ: ตัวอย่างนี้ใช้งานได้โดย ไม่มีพรอมต์คำสั่ง ! พรอมต์คำสั่งในโหมดนี้อาจรบกวนการแทรกเสร็จสิ้น
หมายเหตุ: โหมดแทรกทำงานกับโมเดล instruct models
Mistral AI code จุดสิ้นสุด FIM ที่ดี
ในการเปิดใช้งานการแสดงผลการทำเครื่องหมายของการตอบกลับให้ตั้งค่า option --markdown หรือ run /md ในโหมดแชท หากต้องการแสดงการตอบสนองสุดท้ายใน markdown หนึ่งครั้ง Run //md
ตัวเลือก Markdown ใช้ bat เนื่องจากมีการบัฟเฟอร์บรรทัดโดยค่าเริ่มต้นอย่างไรก็ตามซอฟต์แวร์อื่น ๆ ได้รับการสนับสนุน ตั้งค่าเช่น --markdown=glow หรือ /md mdless ในโหมดแชท
พิมพ์ซอฟต์แวร์ Markdown ใด ๆ ต่อไปนี้เป็นอาร์กิวเมนต์ของตัวเลือก: bat , pygmentize , glow , mdcat หรือ mdless
เว้นแต่จะมีการตั้งค่า option -c หรือ -cc จะ ไม่มีการกำหนดคำสั่ง ให้กับโมเดลภาษา ในโหมดแชทหากไม่มีการตั้งค่าคำสั่งให้ใช้คำสั่งขั้นต่ำและชุดตัวเลือกบางอย่างเช่นการเพิ่มอุณหภูมิและการลงโทษการแสดงตนเพื่อที่จะยกเลิกการเปิดโปงบอท
วิศวกรรมที่รวดเร็วเป็นศิลปะของตัวเอง ศึกษาอย่างละเอียดเกี่ยวกับวิธีการสร้างพรอมต์ที่ดีที่สุดเพื่อให้ได้ประโยชน์สูงสุดจากรูปแบบข้อความรหัสและการแชท
การบังคับเลี้ยวและความสามารถของแบบจำลองนั้นต้องการวิศวกรรมที่รวดเร็วเพื่อให้รู้ว่าควรตอบคำถาม
ตั้งค่าพรอมต์คำสั่งหนึ่งนัดพร้อม option -S :
chatgpt.sh -cc -S 'You are a PhD psycologist student.'
chatgpt.sh -ccS'You are a professional software programmer.'
ในการสร้างหรือโหลดไฟล์เทมเพลตพรอมต์ตั้งค่าอาร์กิวเมนต์ตำแหน่งแรกเป็น .prompt_name หรือ ,prompt_name ในกรณีที่สองให้โหลดพรอมต์และการยิงเดี่ยว
chatgpt.sh -cc .psycologist
chatgpt.sh -cc ,software_programmer
อีกทางเลือกหนึ่งตั้งค่า option -S ด้วยตัวดำเนินการและชื่อของพรอมต์เป็นอาร์กิวเมนต์:
chatgpt.sh -cc -S .psycologist
chatgpt.sh -cc -S,software_programmer
สิ่งนี้จะโหลดพรอมต์ที่กำหนดเองหรือสร้างหากยังไม่มีอยู่ ในตัวอย่างที่สองการแก้ไขการยิงครั้งเดียวจะพร้อมใช้งานหลังจากโหลด Software_programmer
โปรดทราบและตรวจสอบให้แน่ใจว่าได้สำรองข้อมูลพรอมต์ที่กำหนดเองที่สำคัญของคุณ! พวกเขาอยู่ที่ " ~/.cache/chatgptsh/ " พร้อมส่วนขยาย " .pr "
ตั้งค่าพรอมต์จาก Awesome-Chatgpt-Prompts หรือ Awesome-Chatgpt-Prompts-ZH (ใช้กับรุ่น Davinci และ GPT-3.5+):
chatgpt.sh -cc -S /linux_terminal
chatgpt.sh -cc -S /Relationship_Coach
chatgpt.sh -cc -S '%担任雅思写作考官'
โครงการนี้รวมถึงการเสร็จสิ้นเชลล์เพื่อปรับปรุงประสบการณ์บรรทัดคำสั่งผู้ใช้
ติดตั้ง ตามวิธีใดวิธีหนึ่งด้านล่าง
ทั่วทั้งระบบ
sudo cp comp/bash/chatgpt.sh /usr/share/bash-completion/completions/
เฉพาะผู้ใช้
mkdir -p ~/.local/share/bash-completion/completions/
cp comp/bash/chatgpt.sh ~/.local/share/bash-completion/completions/
เยี่ยมชมที่เก็บของ Bash-completion
ติดตั้ง ที่ ตำแหน่งระบบ
sudo cp comp/zsh/_chatgpt.sh /usr/share/zsh/site-functions/
ตำแหน่ง เฉพาะผู้ใช้
ในการตั้งค่าความสำเร็จ เฉพาะผู้ใช้ตรวจสอบ ให้แน่ใจว่าได้วางสคริปต์ที่สมบูรณ์ภายใต้ไดเรกทอรีในอาร์เรย์ $fpath
ผู้ใช้อาจสร้าง ~/.zfunc/ ไดเรกทอรีและเพิ่มบรรทัดต่อไปนี้ให้กับเธอ ~/.zshrc :
[[ -d ~/.zfunc ]] && fpath=(~/.zfunc $fpath)
autoload -Uz compinit
compinit
ตรวจสอบให้แน่ใจว่า compinit ทำงาน หลังจากตั้งค่า $fpath !
เยี่ยมชมพื้นที่เก็บข้อมูล ZSH-completion
ความสำเร็จของ Bash และ ZSH ควรใช้งานในช่วงเทอร์มินัลใหม่ ถ้าไม่ตรวจสอบให้แน่ใจว่า ~/.bashrc และ ~/.zshrc แหล่งที่มาของไฟล์เสร็จสมบูรณ์อย่างถูกต้อง
ฟีเจอร์ YouTube จะได้รับเฉพาะชื่อวิดีโอ YouTube และการถอดเสียง (เมื่อมี)
คุณสมบัติการสนับสนุน PDF แยกข้อความ PDF ( ไม่มีรูปภาพ ) และต่อท้ายกับคำขอของผู้ใช้
เรียกใช้คำสั่งแชทกับ ผู้ให้บริการ ทั้งสอง ! หรือ / .
แก้ไขรายการประวัติสดด้วยคำสั่ง !hist สำหรับการฉีดบริบท
/ หรือ // เพื่อแก้ไขการแจ้งเตือนล่าสุดก่อนคำขอใหม่ สร้างภาพตามพรอมต์:
chatgpt.sh -i "Dark tower in the middle of a field of red roses."
chatgpt.sh -i "512x512" "A tower."
สร้างความแปรปรวนของภาพ:
chatgpt.sh -i path/to/image.png
chatgpt.sh -i path/to/image.png path/to/mask.png "A pink flamingo."
ในตัวอย่างนี้หน้ากากทำจากสีขาว
เพิ่มค้างคาวในท้องฟ้ายามค่ำคืน
สร้างการถอดความจากคำพูดไฟล์เสียง พรอมต์เพื่อเป็นแนวทางในสไตล์ของโมเดลเป็นทางเลือก พรอมต์ควรตรงกับภาษาพูด:
chatgpt.sh -w path/to/audio.mp3
chatgpt.sh -w path/to/audio.mp3 "en" "This is a poem about X."
1. สร้างการถอดความจากการบันทึกเสียงตั้งค่าภาษาโปรตุเกสเป็นภาษาที่จะถอดความเป็น:
chatgpt.sh -w pt
นอกจากนี้ยังทำงานเพื่อถอดความจากภาษาหนึ่งไปอีกภาษาหนึ่ง
2. ถอดความอินพุตคำพูดภาษาใด ๆ ไปยังภาษาญี่ปุ่น ( ควร อยู่ในภาษาเดียวกับภาษาเสียงอินพุตโดยเฉพาะ):
chatgpt.sh -w ja "A job interview is currently being done."
3.1 แปลอินพุตคำพูดภาษาอังกฤษเป็นภาษาญี่ปุ่นและสร้างผลลัพธ์การพูดจากการตอบกลับข้อความ
chatgpt.sh -wz ja "Getting directions to famous places in the city."
3.2 ทำมันในทางกลับกันสิ่งนี้เปิดโอกาสให้การสนทนา (คู่มือ) เปลี่ยนผู้พูดสองคนของภาษาต่าง ๆ ด้านล่างลำโพงญี่ปุ่นสามารถแปลเสียงและสร้างเสียงในภาษาเป้าหมาย
chatgpt.sh -wz en "Providing directions to famous places in the city."
4. แปลคำพูดจากภาษาใด ๆ เป็นภาษาอังกฤษ:
chatgpt.sh -W [audio_file]
chatgpt.sh -W
หากต้องการลองใหม่ด้วยการบันทึกไมโครโฟนล่าสุดที่บันทึกไว้ในแคชให้ตั้งค่า Audio_File เป็น last หรือ retry
หมายเหตุ: สร้างตัวเลือก การตั้งค่าการตั้งค่าการตั้งค่าการตั้งเวลาระดับ วลี option -ww หรือ option -WW สำหรับ การประทับเวลาระดับคำ ให้ตั้งค่าตัวเลือก -www หรือ -WWW
ตรวจสอบให้แน่ใจว่าคุณมีเซิร์ฟเวอร์ท้องถิ่นของ Mudler ตั้งค่าและทำงานอยู่
เซิร์ฟเวอร์สามารถเรียกใช้เป็นคอนเทนเนอร์ Docker หรือ Binary สามารถดาวน์โหลดได้ ตรวจสอบภาพคอนเทนเนอร์ Localai และเรียกใช้โมเดลด้วยตนเองเพื่อความคิดเกี่ยวกับวิธีการติดตั้งดาวน์โหลดรุ่นและตั้งค่า
┌───────────────────────────────────────────────────┐
│ Fiber v2.50.0 │
│ http://127.0.0.1:8080 │
│ (bound on host 0.0.0.0 and port 8080) │
│ │
│ Handlers ............. 1 Processes ........... 1 │
│ Prefork ....... Disabled PID ..................1 │
└───────────────────────────────────────────────────┘
1. ดาวน์โหลดไบนารีของ localai สำหรับระบบของคุณจาก GitHub Repo ของ Mudler
2. เรียกใช้ localai run --help เพื่อตรวจสอบตัวเลือกบรรทัด comamnd และตัวแปรสภาพแวดล้อม
3. ตั้งค่า $GALLERIES ก่อนเริ่มเซิร์ฟเวอร์:
export GALLERIES='[{"name":"localai", "url":"github:mudler/localai/gallery/index.yaml"}]' #defaults
export GALLERIES='[{"name":"model-gallery", "url":"github:go-skynet/model-gallery/index.yaml"}]'
export GALLERIES='[{"name":"huggingface", "url": "github:go-skynet/model-gallery/huggingface.yaml"}]'
4. ติดตั้งรุ่นชื่อ phi-2-chat จากไฟล์ yaml ด้วยตนเองในขณะที่เซิร์ฟเวอร์กำลังทำงานอยู่:
curl -L http://localhost:8080/models/apply -H "Content-Type: application/json" -d '{ "config_url": "https://raw.githubusercontent.com/mudler/LocalAI/master/embedded/models/phi-2-chat.yaml" }'
ในที่สุดเมื่อรัน chatgpt.sh ตั้งชื่อรุ่น:
chatgpt.sh --localai -cc -m luna-ai-llama2
การตั้งค่าลำดับหยุดบางอย่างอาจจำเป็นต้องใช้เพื่อป้องกันไม่ให้โมเดลสร้างบริบทที่ผ่านมาข้อความ:
chatgpt.sh --localai -cc -m luna-ai-llama2 -s'### User:' -s'### Response:'
เลือกตั้งค่าการรีสตาร์ทและเริ่มต้นลำดับสำหรับจุดสิ้นสุดของข้อความ ( option -c ) เช่น -s'n### User: ' -s'n### Response:' (ทำการตั้งค่าใจใหม่ n และ Whitespaces อย่างถูกต้อง)
แล้วก็แค่ไหน!
ชื่อรุ่นอาจพิมพ์ด้วย chatgpt.sh -l โมเดลอาจถูกจัดทำเป็นอาร์กิวเมนต์เพื่อให้มีเพียงรายละเอียดของโมเดลเท่านั้น
หมายเหตุ: การจัดการแบบจำลอง (การดาวน์โหลดและตั้งค่า) ต้องปฏิบัติตามแนวทางและวิธีการโครงการ Localai และ Ollama
สำหรับการสร้างภาพให้ติดตั้งการแพร่กระจายที่เสถียรจาก URL github:go-skynet/model-gallery/stablediffusion.yaml และสำหรับการถอดความคำพูดดาวน์โหลด Whisper จาก URL github:go-skynet/model-gallery/whisper-base.yaml
หาก URL ฐานผู้ให้บริการแตกต่างจากค่าเริ่มต้น
ตัวแปรสภาพแวดล้อม $OPENAI_BASE_URL ถูกอ่านเมื่อการเรียกร้อง
export OPENAI_BASE_URL="http://127.0.0.1:8080/v1"
chatgpt.sh -c -m luna-ai-llama2
หากต้องการตั้งค่าให้เป็นแบบถาวรมากขึ้นให้แก้ไขไฟล์การกำหนดค่าสคริปต์ .chatgpt.conf
ใช้ VIM:
vim ~/.chatgpt.conf
หรือแก้ไขการกำหนดค่าด้วยตัวเลือกบรรทัด comamnd
chatgpt.sh -F
และตั้งค่าตัวแปรต่อไปนี้:
# ~/.chatgpt.conf
OPENAI_BASE_URL="http://127.0.0.1:8080/v1"
เยี่ยมชมที่เก็บ Ollama และทำตามคำแนะนำในการติดตั้งดาวน์โหลดรุ่นและตั้งค่าเซิร์ฟเวอร์
หลังจากใช้เซิร์ฟเวอร์ Ollama ให้ตั้งค่า option -O ( --ollama ) และชื่อของโมเดลใน chatgpt.sh :
chatgpt.sh -cc -O -m llama2
หาก URL เซิร์ฟเวอร์ Ollama ไม่ใช่ค่าเริ่มต้น http://localhost:11434 , แก้ไขไฟล์การกำหนดค่า chatgpt.sh และตั้งค่าตัวแปรต่อไปนี้:
# ~/.chatgpt.conf
OLLAMA_BASE_URL="http://192.168.0.3:11434"
รับคีย์ API ฟรีสำหรับ Google เพื่อให้สามารถใช้ Gemini และ Vision Models ผู้ใช้มีแบนด์วิดท์ฟรี 60 คำขอต่อนาทีและสคริปต์เสนอการใช้งานพื้นฐานของ API
ตั้งค่าตัวแปรสภาพแวดล้อม $GOOGLE_API_KEY และเรียกใช้สคริปต์ด้วย option --google เช่น:
chatgpt.sh --google -cc -m gemini-pro-vision
OBS : รุ่น Google Gemini Vision ไม่ได้ เปิดใช้งานสำหรับ Multiturn ที่ด้าน API ดังนั้นเราจึงแฮ็คมัน
หากต้องการแสดงรายการรุ่นที่มีอยู่ทั้งหมดให้เรียกใช้ chatgpt.sh --google -l
ตั้งค่าบัญชี Mistral AI ประกาศตัวแปรสภาพแวดล้อม $MISTRAL_API_KEY และเรียกใช้สคริปต์ด้วย option --mistral สำหรับการรวมที่สมบูรณ์
ลงชื่อเข้าใช้ Groq สร้างคีย์ API ใหม่หรือใช้รหัสที่มีอยู่เพื่อตั้งค่าตัวแปรสภาพแวดล้อม $GROQ_API_KEY เรียกใช้สคริปต์ด้วย option --groq
ปัจจุบันรุ่น LLAMMA3.1 มีให้บริการด้วยความเร็วลดน้ำหนัก!
ลงชื่อเข้าใช้ antropic AI สร้างคีย์ API ใหม่หรือใช้รหัสที่มีอยู่เพื่อตั้งค่าตัวแปรสภาพแวดล้อม $ANTHROPIC_API_KEY เรียกใช้สคริปต์ด้วย option --anthropic หรือ --ant
ตรวจสอบรุ่น Claude-3 ! เรียกใช้สคริปต์เป็น:
chatgpt.sh --anthropic -cc -m claude-3-5-sonnet-20240620
สคริปต์ยังทำงานเกี่ยวกับ การทำให้ข้อความสมบูรณ์ ด้วยโมเดลเช่น claude-2.1 แม้ว่าเอกสาร API จะตั้งค่าสถานะเป็นเลิกใช้แล้ว
พยายาม:
chatgpt.sh --ant -c -m claude-2.1
GitHub ได้ร่วมมือกับ Azure เพื่อใช้โครงสร้างของมัน
ในฐานะผู้ใช้ GitHub เข้าร่วมรายการรอและสร้างโทเค็นส่วนตัว ตั้งค่าตัวแปรสภาพแวดล้อม $GITHUB_TOKEN และเรียกใช้สคริปต์ด้วย option --github หรือ --git
ตรวจสอบรายการโมเดลออนไลน์หรือแสดงรายการรุ่นที่มีอยู่และชื่อดั้งเดิมของพวกเขาด้วย chatgpt.sh --github -l
chatgpt.sh --github -cc -m Phi-3-small-8k-instruct
ดูเพิ่มเติมที่แคตตาล็อกรุ่น GitHub - การเริ่มต้นใช้งาน
Novita AI นำเสนอรุ่น LLM ที่หลากหลายในราคาที่ยอดเยี่ยมรวมถึงรุ่น Llama 3.3 ที่แนะนำเป็นอย่างยิ่งซึ่งให้สมดุลที่ดีที่สุดของราคาและประสิทธิภาพ!
สำหรับโมเดลที่ไม่ได้ตรวจสอบให้พิจารณา SAO10K/L3-70B-EURYALE-V2.1 (ผู้ช่วยสร้างสรรค์และการสวมบทบาท) หรือ CognitiveComputations/Dolphin-Mixtral-8x22b
สร้างคีย์ API ตามคู่มือเริ่มต้นอย่างรวดเร็วและส่งออกคีย์ของคุณเป็น $NOVITA_API_KEY ไปยังสภาพแวดล้อมของคุณ
ถัดไปเรียกใช้สคริปต์เช่น chatgpt.sh --novita -cc
ตรวจสอบเว็บเพจรายการรุ่นและราคาของแต่ละรุ่น
หากต้องการแสดงรายการรุ่นที่มีอยู่ทั้งหมดให้เรียกใช้ chatgpt.sh --novita -l เลือกตั้งชื่อรุ่นพร้อม option -l เป็นรายละเอียดโมเดลการถ่ายโอนข้อมูล
บางรุ่นทำงานร่วมกับจุดสิ้นสุดของ /completions ในขณะที่บางรุ่นทำงานกับจุดสิ้นสุด /chat/completions ดังนั้นสคริปต์ ไม่ได้ตั้งค่าจุดสิ้นสุดโดยอัตโนมัติ ! ตรวจสอบรายละเอียดรุ่นและเว็บเพจเพื่อทำความเข้าใจความสามารถของพวกเขาจากนั้นเรียกใช้สคริปต์ด้วย option -c ( ความสมบูรณ์ของข้อความ ) หรือ options -cc ( เสร็จสิ้นการแชท )
เป็นแบบฝึกหัดแทนที่จะตั้งค่า option --novita ตั้งค่าการรวม Novita AI ด้วยตนเองแทน:
export OPENAI_API_KEY=novita-api-key
export OPENAI_BASE_URL="https://api.novita.ai/v3/openai"
chatgpt.sh -cc -m meta-llama/llama-3.1-405b-instruct
เราขอขอบคุณ Novita AI สำหรับการสนับสนุนและการทำงานร่วมกันของพวกเขา สำหรับข้อมูลเพิ่มเติมโปรดเยี่ยมชม Novita AI
เยี่ยมชม Xai Grok เพื่อสร้างคีย์ API (สภาพแวดล้อม $XAI_API_KEY )
เรียกใช้สคริปต์ด้วย option --xai และด้วย option -cc (การแชทเสร็จสมบูรณ์)
บางรุ่นยังทำงานร่วมกับการเติมข้อความดั้งเดิม สำหรับสิ่งนั้นตั้งค่า option -c แทน
โครงการ PKGBUILD นี้มีให้ที่ที่เก็บผู้ใช้ Arch Linux ( AUR ) เพื่อติดตั้งซอฟต์แวร์ใน Arch Linux และ Distros อนุพันธ์
ในการติดตั้งโปรแกรมจาก AUR คุณสามารถใช้ AUR Helper เช่น yay หรือ paru ตัวอย่างเช่นกับ yay :
yay -S chatgpt.sh
ติดตั้ง Termux และ Termux:API แอพจาก F-Droid Store
ให้สิทธิ์ทั้งหมดกับ Termux:API ในการตั้งค่าแอพโทรศัพท์ของคุณ
เราขอแนะนำให้ติดตั้ง sox , ffmpeg , pulseaudio , imagemagick และ vim (หรือ nano )
อย่าลืมเรียกใช้งาน termux-setup-storage เพื่อตั้งค่าการเข้าถึงที่เก็บข้อมูลโทรศัพท์
ใน Termux ที่เหมาะสมให้ติดตั้งแพ็คเกจ termux-api และ termux-tools ( pkg install termux-api termux-tools )
เมื่อบันทึกเสียง (Whisper, option -w ), หากมี termux-microphone-record กำหนด pulseaudio อย่างถูกต้องสคริปต์จะใช้ sox , ffmpeg หรือซอฟต์แวร์ที่มีความสามารถอื่น ๆ
ในทำนองเดียวกันเมื่อเล่นเสียง (TTS, option -z ) ขึ้นอยู่กับการกำหนดค่า pulseaudio ใช้ sox , mpv หรือทางเลือกในการเล่น Wrapper Termux ( play-audio เป็นตัวเลือก)
ในการตั้งค่าคลิปบอร์ดจำเป็นต้องมี termux-clipboard-set จากแพ็คเกจ termux-api
markdown ในอินพุต TTS อาจพูดติดอ่างการสร้างคำพูดแบบจำลองเล็กน้อย หากมีโมดูล python และ bs4 พร้อม markdown อินพุต TTS จะถูกแปลงเป็นข้อความธรรมดา เป็นทางเลือกที่จะใช้ pandoc หากมีอยู่ (โหมดแชทเท่านั้น)
ภายใต้ Termux ตรวจสอบให้แน่ใจว่าระบบของคุณได้รับการปรับปรุงและติดตั้งด้วยแพ็คเกจ python , rust และ rustc-dev สำหรับการสร้าง tiktoken
pkg update
pkg upgrade
pkg install python rust rustc-dev
pip install tiktoken
ในการตั้งค่าการเข้าถึงคำสั่งการบันทึกไมโครโฟนและเล่นเสียง (ด้วย sox และ ffmpeg ) ทำตามคำแนะนำด้านล่าง
A. ตั้ง pulseaudio ครั้งเดียวเท่านั้นดำเนินการ:
pulseaudio -k
pulseaudio -L "module-sles-source" -D
B. ในการตั้งค่าการกำหนดค่าถาวร:
pulseaudio -kload-module module-sles-source ใน ไฟล์ใดไฟล์หนึ่ง : ~/.config/pulse/default.pa
/data/data/com.termux/files/usr/etc/pulse/default.pa
pulseaudio -D C. ในการสร้างผู้ใช้ใหม่ ~/.config/pulse/default.pa คุณอาจเริ่มต้นด้วยเทมเพลตต่อไปนี้:
#!/usr/bin/pulseaudio -nF
.include /data/data/com.termux/files/usr/etc/pulse/default.pa
load-module module-sles-source
ในการเข้าถึงไฟล์ Termux ของคุณโดยใช้ตัวจัดการไฟล์ของ Android ให้ติดตั้งตัวจัดการไฟล์ที่เหมาะสมเช่น FX File Explorer จาก Play Store และกำหนดค่าหรือเรียกใช้คำสั่งต่อไปนี้ใน Termux Terminal ของคุณ:
am start -a android.intent.action.VIEW -d "content://com.android.externalstorage.documents/root/primary"
ที่มา: https://www.reddit.com/r/termux/comments/182g7np/where_do_i_find_my_things_that_i_downloaded/
ใช้คุณสมบัติที่ดีจาก OpenAI API version 1
ระบุค่าเริ่มต้น API ที่ใกล้เคียงที่สุด
ให้ผู้ใช้ปรับแต่งค่าเริ่มต้น (เป็นการบ้าน)
premièreของ chatgpt.sh version 1.0 ควรเกิดขึ้นในเวลาที่ OpenAI เปิดตัวอัปเดตเวอร์ชัน API ที่สำคัญต่อไป
Merry 2024 Grav Mass!
OpenAI API เวอร์ชัน 1 เป็นจุดสนใจของการใช้งานโครงการปัจจุบัน คุณสมบัติทั้งหมดของ API จะไม่ได้รับการคุ้มครอง
โครงการนี้ ไม่ สนับสนุน "ฟังก์ชั่นการเรียก" หรือ "เอาต์พุตที่มีโครงสร้าง"
อาจเป็นไปได้ว่าเราจะ ไม่ สนับสนุนการแชท "เรียลไทม์" หรือวิดีโอรูปแบบ
Bash Shell ตัดทอนอินพุตบน 00 (NULL)
bash "คำสั่งอ่าน" อาจไม่แสดงบัฟเฟอร์อินพุตที่ใหญ่กว่าขนาดหน้าจอ TTY ระหว่างการแก้ไข อย่างไรก็ตามบัฟเฟอร์อินพุตยังคงไม่ได้รับผลกระทบ ใช้อินเทอร์เฟซตัวแก้ไขข้อความสำหรับการแก้ไขพรอมต์ขนาดใหญ่
ตรรกะสคริปต์คล้ายกับรหัสสปาเก็ตตี้ชามหลังจากการต่อสู้แมว
ขยะในขยะ คนบ้างี่เง่า
ดูส่วน ข้อบกพร่องและขีด จำกัด ในหน้า MAN
กรุณาทิ้งรายงานข้อผิดพลาดไว้ที่หน้าปัญหา GitHub
อ่าน หน้าชายออนไลน์ที่นี่
อีกทางเลือกหนึ่งสามารถพิมพ์ตัวอย่างหน้าช่วยเหลือได้ด้วย chatgpt.sh -h
ขอขอบคุณ ทุกคนที่มีส่วนร่วมในโครงการนี้
ทุกคนยินดีที่จะส่งปัญหา PRS และแนวคิดใหม่ ๆ !
โครงการต่อไปนี้มีมูลค่าการตั้งข้อสังเกต พวกเขาได้รับการศึกษาในระหว่างการพัฒนาสคริปต์นี้และใช้เป็นแหล่งอ้างอิงรหัส
บ้านโครงการอยู่ที่ Gitlab
https://gitlab.com/fenixdragao/shellchatgpt
กระจกเงา
https://github.com/mountaineerbr/shellchatgpt
