Transformers for NLP and Computer Vision 3rd Edition

Transformers สำหรับการประมวลผลภาษาธรรมชาติและวิสัยทัศน์คอมพิวเตอร์: ใช้ AI และ LLMs ไปอีกระดับด้วย Hugging Face, Google Vertex AI, CHATGPT, GPT-4V และ Dall-E 3 รุ่นที่ 3

โดย Denis Rothman

อัปเดตล่าสุด: 30 ตุลาคม 2567

repo นี้ได้รับการอัปเดตและอัพเกรดอย่างต่อเนื่อง
สำหรับรายละเอียดเกี่ยวกับการอัปเดตและการปรับปรุงโปรดดูการเปลี่ยนแปลง
หากคุณเห็นสิ่งใดที่ไม่ได้ทำงานตามที่คาดไว้ให้ยกปัญหาและเราจะทำงานกับมัน!

มองหา? ในการสำรวจ สมุดบันทึกโบนัสใหม่ เช่นโมเดลการใช้เหตุผลของ Openai O1, API ของ Midjourney, API ของ Google Vertex Ai Gemini
มองหา? ในการสำรวจสมุดบันทึกที่มีอยู่สำหรับ รุ่นล่าสุดหรือการเผยแพร่แพลตฟอร์ม เช่นรุ่น GPT-4O และ GPT-4O-MINI ล่าสุดของ OpenAI
มองหา? ในการเรียกใช้สมุดบันทึกที่มีอยู่ด้วย เวอร์ชันการพึ่งพาใหม่และข้อ จำกัด API แพลตฟอร์มและการปรับแต่ง

Transformers-for-NLP-และ COMPUTER-VISION-3RD-EDITION

นี่คือที่เก็บรหัสสำหรับ Transformers สำหรับการประมวลผลภาษาธรรมชาติและการมองเห็นคอมพิวเตอร์เผยแพร่โดย Packt

สำรวจ AI Generative และรูปแบบภาษาขนาดใหญ่ที่มีใบหน้ากอด, CHATGPT, GPT-4V และ Dall-E 3

เกี่ยวกับหนังสือเล่มนี้

หม้อแปลงสำหรับการประมวลผลภาษาธรรมชาติและวิสัยทัศน์คอมพิวเตอร์รุ่นที่สามสำรวจสถาปัตยกรรม แบบจำลองภาษาขนาดใหญ่ ( LLM ) แอพพลิเคชั่นและแพลตฟอร์มต่าง ๆ (Hugging Face, OpenAI และ Google Vertex AI) ที่ใช้สำหรับ การประมวลผลภาษาธรรมชาติ ( NLP ) และ คอมพิวเตอร์วิสัยทัศน์ ( CV )

ดำดิ่งสู่หม้อแปลงไฟฟ้าวิสัยทัศน์และสถาปัตยกรรมแบบหลายรูปแบบและสร้างแอพพลิเคชั่นเช่นภาพและตัวแยกประเภทวิดีโอเป็นข้อความ ไปเพิ่มเติมโดยการรวมโมเดลและแพลตฟอร์มที่แตกต่างกันและเรียนรู้เกี่ยวกับการจำลองแบบ AI Agent

สิ่งที่คุณจะเรียนรู้

• เรียนรู้วิธีการ pretrain และปรับแต่ง LLMS
• เรียนรู้วิธีการทำงานกับหลายแพลตฟอร์มเช่น Hugging Face, Openai และ Google Vertex AI
• เรียนรู้เกี่ยวกับโทเคนิเซอร์ที่แตกต่างและแนวทางปฏิบัติที่ดีที่สุดสำหรับข้อมูลภาษาที่ประมวลผลล่วงหน้า
• ใช้การสร้างการเพิ่มการดึงและฐานกฎเพื่อลดภาพหลอน
• แสดงให้เห็นถึงกิจกรรมโมเดลหม้อแปลงสำหรับข้อมูลเชิงลึกที่ลึกกว่าโดยใช้ bertviz, มะนาวและ shap
• สร้างและใช้โมเดลที่ถูกล่ามโซ่ข้ามแพลตฟอร์มเช่น HugggingGpt
• ไปลึกเข้าไปในหม้อแปลงวิสัยทัศน์ด้วยคลิป, Dall-E 2, Dall-E 3 และ GPT-4V

สารบัญ

บท

1. Transformers คืออะไร?
2. เริ่มต้นด้วยสถาปัตยกรรมของโมเดลหม้อแปลง
3. งานฉุกเฉินเทียบกับงานดาวน์สตรีม: ความลึกที่มองไม่เห็นของหม้อแปลง
4. ความก้าวหน้าในการแปลด้วย Google Trax, Google Translate และ Gemini
5. ดำน้ำในการปรับแต่งผ่านเบิร์ต
6. การเตรียมหม้อแปลงตั้งแต่เริ่มต้นจนถึง Roberta
7. การปฏิวัติ AI แบบกำเนิดกับ CHATGPT
8. ปรับแต่งโมเดล OpenAi GPT อย่างละเอียด
9. แตกกล่องดำด้วยเครื่องมือที่ตีความได้
10. การตรวจสอบบทบาทของโทเคนิเซอร์ในการสร้างโมเดลหม้อแปลง
11. ใช้ประโยชน์จากการฝัง LLM เป็นทางเลือกในการปรับแต่งอย่างละเอียด
12. ไปสู่การติดฉลากบทบาทความหมายแบบไวยากรณ์ด้วย CHATGPT และ GPT-4
13. การสรุปด้วย T5 และ CHATGPT
14. การสำรวจ LLMs ที่ทันสมัยด้วย Vertex AI และ Palm 2
15. การปกป้องไจแอนต์: ลดความเสี่ยงในรูปแบบภาษาขนาดใหญ่
16. Beyond Text: Vision Transformers ในตอนเช้าของ AI ปฏิวัติ
17. การก้าวข้ามขอบเขตข้อความภาพด้วยการแพร่กระจายที่เสถียร
18. Hugging Face Autotrain: การฝึกอบรมแบบจำลองการมองเห็นโดยไม่ต้องเข้ารหัส
19. บนถนนสู่การทำงาน AGI ด้วยการกอดและเพื่อนร่วมงาน
20. เกินกว่าที่มนุษย์ออกแบบมาพร้อมกับความคิดทั่วไป

ภาคผนวก

ภาคผนวก: คำตอบสำหรับคำถาม

แพลตฟอร์ม

คุณสามารถเรียกใช้สมุดบันทึกได้โดยตรงจากตารางด้านล่าง:

บท	การกิน	Kaggle	การไล่ระดับสี	studiolab
ส่วนที่ 1 รากฐานของโมเดลหม้อแปลง
บทที่ 1: Transformers คืออะไร?
? o_1_and_accelerators.ipynb chatgpt_plus_writes_and_explains_ai.ipynb
บทที่ 2: เริ่มต้นด้วยสถาปัตยกรรมของโมเดลหม้อแปลง
? multi_head_attention_sub_layer.ipynb positional_encoding.ipynb
บทที่ 3: งานฉุกเฉินเทียบกับงานดาวน์สตรีม: ความลึกที่มองไม่เห็นของหม้อแปลง
from_training_to_emergence.ipynb transformer_tasks_with_hugging_face.ipynb
บทที่ 4: ความก้าวหน้าในการแปลด้วย Google Trax, Google Translate และ Google Bard
wmt_translations.ipynb trax_google_translate.ipynb
บทที่ 5: การดำน้ำในการปรับแต่งผ่านเบิร์ต
bert_fine_tuning_sentence_classification_gpu.ipynb
บทที่ 6: การเตรียมหม้อแปลงตั้งแต่เริ่มต้นผ่าน Roberta
- kantaibert.ipynb - customer_support_for_x.ipynb
ส่วนที่สอง: การเพิ่มขึ้นของ suprahuman nlp
บทที่ 7: การปฏิวัติ AI แบบกำเนิดกับ CHATGPT
openai_models.ipynb openai_gpt_4_assistant.ipynb ? geting_started_gpt_4_api.ipynb (gpt-4o) ? gpt_4_rag.ipynb (gpt-4o)
Openai Forming Models: O1-Preview API
? openai_reasoning_models_o1_api.ipynb
บทที่ 8: โมเดล Openai ปรับแต่งอย่างละเอียด
fine_tuning_openai_models.ipynb ? fine_tuning_gpt_4o_mini_squad.ipynb
บทที่ 9: แตกกล่องดำด้วยเครื่องมือที่ตีความได้
bertviz_interactive.ipynb hugging_face_shap.ipynb
บทที่ 10: การตรวจสอบบทบาทของโทเคนิเซอร์ในการสร้างโมเดลหม้อแปลง
tokenizers.ipynb sub_word_tokenizers.ipynb ? Exploring_tokenizers.ipynb
บทที่ 11: การใช้ประโยชน์จากการฝัง LLM เป็นทางเลือกในการปรับแต่งอย่างละเอียด
? EMBEDDING_WITH_NLKT_GENSIM.IPYNB ? question_answering_with_embeddings.ipynb ? transfer_learning_with_ada_embeddings.ipynb
บทที่ 12: ไปสู่การติดฉลากบทบาทความหมายแบบปราศจากไวยากรณ์ด้วย Bert และ Openai's Chatgpt
semantic_role_labeling_gpt-4.ipynb
บทที่ 13: การสรุปด้วย T5 และ CHATGPT
? summerizing_text_t5.ipynb summarizing_chatgpt.ipynb
บทที่ 14: การสำรวจ NLP ที่ทันสมัยด้วย Google Vertex AI (Palm และ? Gemini กับ Gemini-1.5-Flash-001
google_vertex_ai.ipynb ? google_vertex_ai_gemini.ipynb
บทที่ 15: การปกป้องไจแอนต์: ลดความเสี่ยงในรูปแบบภาษาขนาดใหญ่ <
? auto_big_bench.ipynb (gpt-4o, synchronous) ? auto_big_bench.ipynb (gpt-4o-mini, synchronous) ? GPT API Speed ​​++ พร้อมการโทรแบบอะซิงโครนัส! ? wandb_prompts_quickstart.ipynb encoder_decoder_transformer.ipynb mitigating_generative_ai.ipynb
ตอนที่ III: การมองเห็นคอมพิวเตอร์แบบกำเนิด: วิธีใหม่ในการดูโลก
บทที่ 16: Vision Transformers ในรุ่งอรุณแห่งการปฏิวัติ AI
vit_clip.ipynb Geting_started_dall_e_api.ipynb ? gpt-4v.ipynb (GPT-4O)
บทที่ 17: การก้าวข้ามขอบเขตข้อความภาพด้วยการแพร่กระจายที่เสถียร
Stable_diffusion_keras.ipynb Stable__Vision_stability_ai.ipynb Stable__Vision_stability_ai_Animation.ipynb text_to_video_synthesis.ipynb Timesformer.ipynb
การแพร่กระจายที่มั่นคงด้วยใบหน้ากอด
? Stable_diffusion_hugging_face.ipynb
บทที่ 18: การฝึกอบรมหม้อแปลงไฟฟ้าอัตโนมัติ
? hugging_face_autotrain.ipynb
บทที่ 19: บนถนนสู่ AGI ที่ใช้งานได้ด้วย HugggingGpt และเพื่อนร่วมงาน
Computer_vision_analysis.ipynb
บทที่ 20: ความคิดสร้างสรรค์ AI Vertex AI, Langchain และการแพร่กระจายที่เสถียร
Automated_design.ipynb midjourney_bot.ipynb ? automated_ideation.ipynb - mymidjourney_api.ipynb

แชทกับ GPT-4 chatbot ของที่เก็บข้อมูลนี้

แชทกับบอต GPT4 ที่กำหนดเองของฉันสำหรับที่เก็บนี้

คุณสามารถถามคำถามเกี่ยวกับที่เก็บนี้ นอกจากนี้คุณยังสามารถคัดลอกรหัสจากสมุดบันทึกลงในแชท GPT ของฉันและขอคำอธิบาย

นี่คือแชทบ็อตอินพุตที่ทันสมัยที่ทันสมัยสร้างขึ้นบน OpenAI สำหรับพื้นที่เก็บข้อมูล GitHub นี้ OpenAI ต้องการการสมัครสมาชิก CHATGPT Plus เพื่อสำรวจ

ข้อ จำกัด : นี่คือ chatbot ทดลอง มันทุ่มเทให้กับที่เก็บ GitHub นี้และไม่ได้แทนที่คำอธิบายที่มีให้ในหนังสือ แต่คุณสามารถมีปฏิสัมพันธ์ทางการศึกษาที่น่าสนใจกับ GPT-4 chatbot ของฉัน

ยกประเด็น

คุณสามารถสร้างปัญหาเรายินดีที่จะให้การสนับสนุน! ในที่เก็บนี้หากคุณพบหนึ่งในสมุดบันทึก

รับสำเนาของฉัน

หากคุณรู้สึกว่าหนังสือเล่มนี้มีไว้สำหรับคุณรับสำเนาของคุณวันนี้!

รู้เพิ่มเติมเกี่ยวกับเซิร์ฟเวอร์ Discord

คุณสามารถมีส่วนร่วมมากขึ้นบนเซิร์ฟเวอร์ Discord สำหรับการอัปเดตและการอภิปรายล่าสุดในชุมชนที่ Discord

ดาวน์โหลด PDF ฟรี

หากคุณซื้อหนังสือเล่มนี้พิมพ์หรือ Kindle เวอร์ชันนี้แล้วคุณสามารถรับเวอร์ชัน PDF ที่ไม่มี DRM ได้โดยไม่มีค่าใช้จ่าย เพียงคลิกที่ลิงค์เพื่อรับ PDF ฟรีของคุณ

นอกจากนี้เรายังมีไฟล์ PDF ที่มีภาพสีของภาพหน้าจอ/ไดอะแกรมที่ใช้ในหนังสือเล่มนี้ที่ ColorImages

ทำความรู้จักกับผู้แต่ง

Denis Rothman จบการศึกษาจาก Sorbonne University และ Paris-Cité University ออกแบบหนึ่งในระบบการเข้ารหัสและการฝังที่จดสิทธิบัตรเป็นครั้งแรกและการสอนที่ Paris-I Panthéon Sorbonne เขาประพันธ์หนึ่งในการเข้ารหัสคำที่จดสิทธิบัตรครั้งแรกและ AI Bots/Robots เขาเริ่มอาชีพของเขาในการส่งมอบการประมวลผลภาษาธรรมชาติ (NLP) chatbot สำหรับMoët et Chandon (LVMH) และเครื่องมือเพิ่มประสิทธิภาพการป้องกันทางยุทธวิธี AI สำหรับแอร์บัส จากนั้น Denis จึงเขียนเครื่องมือเพิ่มประสิทธิภาพ AI สำหรับ IBM และแบรนด์หรูซึ่งนำไปสู่การวางแผนขั้นสูงและการจัดตารางเวลา (APS) ที่ใช้ทั่วโลก LinkedIn