หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

การปรับแต่ง

ตั้งแต่การปรับใช้แบบจำลองไปจนถึงการปรับแต่งแบบจำลองโครงการนี้เป็นการศึกษาค่ายฝึกอบรมรวมกับโครงการค่ายฝึกอบรมการทำความเข้าใจตนเองการย่อยอาหารและสรุปและแอพพลิเคชั่นที่เป็นนวัตกรรม Xiaobai สามารถดาว/ส้อมได้

การแนะนำอย่างรวดเร็วเกี่ยวกับแบบจำลองภาษาขนาดใหญ่ (การเรียนรู้เชิงทฤษฎีและการฝึกฝนการปรับแต่ง)

สร้างสภาพแวดล้อมการพัฒนา

  • Python v3.10+
  • Miniconda การจัดการสภาพแวดล้อมของ Python
  • Python Interactive Development Environment Jupyter Lab
  • กอด Transformers
  • เครื่องมือประมวลผลเสียง FFMPEG

ติดตั้งแพ็คเกจการพึ่งพา Python

โปรดใช้ไฟล์ requirements.txt สำหรับการติดตั้งแพ็คเกจการพึ่งพา Python: 

pip install -r requirements.txt

เกี่ยวกับไดรเวอร์ GPU และรุ่น CUDA

โดยทั่วไปต้องใช้ไดรเวอร์ GPU และรุ่น CUDA เพื่อให้ตรงกับรุ่น Pytorch และ Tensorflow ที่ติดตั้ง

รุ่นภาษาขนาดใหญ่ที่เพิ่งเปิดตัวใหม่ส่วนใหญ่ใช้รุ่น Pytorch v2.0+ รุ่นใหม่ซึ่ง Pytorch เชื่ออย่างเป็นทางการคือ 11.8 และรุ่นไดรเวอร์ GPU ที่ตรงกับ สำหรับรายละเอียดโปรดดูรุ่นขั้นต่ำที่ร้องขอ CUDA ที่ร้องขอโดย Pytorch

ในระยะสั้นขอแนะนำให้ติดตั้งรุ่น CUDA 12.3 ล่าสุดโดยตรง สำหรับรายละเอียดโปรดดูแพ็คเกจการติดตั้ง Nvidia อย่างเป็นทางการ

หลังจากการติดตั้งเสร็จสมบูรณ์ให้ใช้ nvidia-smi Directive เพื่อดูเวอร์ชัน: 

nvidia-smi
Fri Mar  1 11:16:55 2024
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 529.08       Driver Version: 529.08       CUDA Version: 12.0     |
| -------------------------------+----------------------+----------------------+
| GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
| ===============================+======================+====================== |
|   0  NVIDIA GeForce ... WDDM  | 00000000:01:00.0 Off |                  N/A |
| N/A   45C    P8     6W /  30W |      0MiB /  4096MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
| ============================================================================= |
+-----------------------------------------------------------------------------+

ในการใช้ OpenAI API คุณจะต้องได้รับคีย์ API จากคอนโซล OpenAI เมื่อคุณมีคีย์คุณสามารถตั้งค่าเป็นตัวแปรสภาพแวดล้อม:

สำหรับระบบที่ใช้ UNIX เช่น Ubuntu หรือ MacOS คุณสามารถเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัล: 

 export OPENAI_API_KEY= '你的-api-key '

สำหรับ Windows คุณสามารถใช้คำสั่งต่อไปนี้ในพรอมต์คำสั่ง: 

 set OPENAI_API_KEY=你的-api-key

เกี่ยวกับข้อกำหนดคุณสามารถดาวน์โหลดได้ตามสถานการณ์ 

pip install -r requirements.txt

การก่อสร้างสภาพแวดล้อมการพัฒนาของ Transformers

แนะนำ

การก่อสร้างสภาพแวดล้อมการพัฒนารวมถึงหลายส่วน

  • มินิคอนดา
  • Jupyter Lab
  • กอดหม้อแปลงใบหน้าเมื่อคุณต้องการลองหลายรุ่นขอแนะนำให้ติดตั้งทั้ง tensorflow และ pytorch
  • แพ็คเกจการพึ่งพาอื่น ๆ

มินิคอนดา

Miniconda เป็นเครื่องมือการจัดการสภาพแวดล้อม Python ที่สามารถใช้ในการสร้างและจัดการสภาพแวดล้อม Python หลายแห่ง มันเป็นทางเลือกที่มีน้ำหนักเบาสำหรับ Anaconda และไม่รวมเครื่องมือ IDE ใด ๆ Miniconda สามารถดาวน์โหลดแพ็คเกจการติดตั้งได้จากเว็บไซต์ทางการ นอกจากนี้คุณยังสามารถดาวน์โหลดได้จากเว็บไซต์ Mirror:

การติดตั้งสภาพแวดล้อม Miniconda 

 # 下载 Miniconda 安装包
$ wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh
# 也可以使用curl命令下载
$ curl -O https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh
# 安装 Miniconda
$ bash Miniconda3-latest-Linux-x86_64.sh

ในระหว่างกระบวนการติดตั้งคำถามบางข้อต้องได้รับคำตอบเช่นเส้นทางการติดตั้งไม่ว่าจะเพิ่ม miniconda ลงในตัวแปรสภาพแวดล้อม ฯลฯ หลังจากการติดตั้งเสร็จสิ้นเทอร์มินัลจะต้องเริ่มต้นใหม่เพื่อให้ตัวแปรสภาพแวดล้อมมีผล

คุณสามารถใช้คำสั่งต่อไปนี้เพื่อตรวจสอบว่ามีการติดตั้ง Miniconda สำเร็จแล้ว: 

$ conda --version

กำหนดค่า miniconda

ไฟล์การกำหนดค่า Miniconda ถูกเก็บไว้ใน ~/.CondArc คุณสามารถแก้ไขได้ด้วยตนเองโดยอ้างถึงเอกสารหรือคุณสามารถใช้คำสั่ง conda config เพื่อแก้ไขได้

  1. เพื่อเพิ่มความเร็วในการดาวน์โหลดแพ็คเกจคุณสามารถกำหนดค่าและใช้แหล่งกระจกในประเทศ: 
 # 配置清华镜像
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
$ conda config --set show_channel_urls yes
# 查看~/.condarc配置
$ conda config --show-sources
channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  - defaults
show_channel_urls: True
  1. เพื่อเร่งการดาวน์โหลดแพ็คเกจ Anaconda คุณสามารถใช้ Mamba หรือ Micromamba แทน Conda เครื่องมือทั้งสองนี้เป็นตัวทดแทนสำหรับ Conda และจะแคชข้อมูลเวอร์ชันแพ็คเกจและไม่จำเป็นต้องตรวจสอบทุกครั้งที่ติดตั้งแพ็คเกจ สิ่งนี้สามารถปรับปรุง conda-forge และอื่น ๆ ได้อย่างมีประสิทธิภาพ วิธีการติดตั้ง Mamba หรือ Micromamba มีดังนี้: 
 # 安装mamba
$ conda install -n base -c conda-forge mamba
# 安装micromamba
$ conda install -n base -c conda-forge micromamba

จากนั้นคุณสามารถใช้คำสั่ง mamba หรือ micromamba แทนคำสั่ง conda

สร้างสภาพแวดล้อมเสมือนจริง 

 # 创建虚拟环境，指定 Python 版本为 3.11
(base) $ conda create -n transformers python=3.11
# 激活 openai 环境
$ conda activate transformers

หากไม่มีคำอธิบายพิเศษด้านล่างพวกเขาทั้งหมดจะดำเนินการในสภาพแวดล้อม OpenAI ที่สร้างขึ้นใหม่ที่นี่

Jupyter Lab

Jupyter Lab เป็นสภาพแวดล้อมการพัฒนาแบบโต้ตอบที่สามารถทำงานในเบราว์เซอร์ รองรับภาษาการเขียนโปรแกรมที่หลากหลายรวมถึง Python, R, Julia ฯลฯ Jupyter Lab จัดทำโดย Conda-Forge โปรดกำหนดค่ารูปภาพก่อนจากนั้นติดตั้งโดยใช้คำสั่งต่อไปนี้: 

(transformers) $ conda install jupyterlab

กอด Transformers

Hugging Face Transformers เป็นชุดเครื่องมือประมวลผลภาษาธรรมชาติที่ใช้ Pytorch และ Tensorflow ซึ่งให้รุ่นก่อนที่ได้รับการฝึกอบรมจำนวนมากซึ่งสามารถใช้ในการทำงาน NLP ที่หลากหลาย Hugging Face Transformers สามารถติดตั้งผ่าน Conda: 

(transformers) $ conda install -c huggingface transformers

เอกสารการติดตั้ง: Hugging Face Transformers

ติดตั้ง tensorflow

หม้อแปลงต้องใช้ TensorFlow สำหรับการใช้เหตุผลแบบจำลองจริง คำสั่งต่อไปนี้ติดตั้ง CPU และ GPU เวอร์ชัน TensorFlow: 

(transformers) $ pip install tensorflow

หากคุณใช้ Mac คุณสามารถติดตั้งปลั๊กอินโลหะสำหรับชิป M1/M2 และคุณสามารถลองรุ่นเล็ก ๆ ได้: 

(transformers) $ pip install tensorflow-metal

เอกสารการติดตั้ง:

  • เทนเซอร์โฟลว์
  • เมทอร์

ติดตั้ง pytorch

หม้อแปลงต้องใช้ Pytorch สำหรับการใช้เหตุผลแบบจำลองจริง แหล่งที่มาของภาพ Pytorch และ Conda Forge ที่ใช้ได้รับการกำหนดค่าในขั้นตอนก่อนหน้า คุณสามารถใช้คำสั่งต่อไปนี้เพื่อติดตั้งเวอร์ชัน pytorch ที่สอดคล้องกับเวอร์ชัน CUDA: 

 # Linux
# CUDA 11.8
(transformers) $ conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c nvidia
# CUDA 12.1
(transformers) $ conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c nvidia

# Mac
(transformers) $ conda install pytorch::pytorch torchvision torchaudio

เอกสารการติดตั้ง: pytorch

ติดตั้งแพ็คเกจการพึ่งพาอื่น

เมื่อประมวลผลภาพเสียงและข้อมูลอื่น ๆ จะต้องใช้การพึ่งพาอื่น ๆ รวมถึง::

  • tqdm, eprogress progress bar
  • FFMPEG, เครื่องมือประมวลผลเสียง FFMPEG-PYTHON
  • เครื่องมือประมวลผลภาพหมอน 
(transformers) $ conda install tqdm iprogress ffmpeg ffmpeg-python pillow

ขอให้คุณก้าวหน้าในการศึกษาของคุณ

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด