fine tunning

fine-tunning

從模型部署到模型微調，此項目是經過訓練營學習後，結合訓練營項目，自我理解消化總結，以及創新型應用。小白可star/fork

大語言模型快速入門（理論學習與微調實戰）

搭建開發環境

• Python v3.10+
• Python 環境管理Miniconda
• Python 交互式開發環境Jupyter Lab
• Hugging Face Transformers
• 音頻處理工具包ffmpeg

安裝Python 依賴包

請使用requirements.txt文件進行Python 依賴包安裝：

pip install -r requirements.txt

關於GPU 驅動和CUDA 版本

通常，GPU 驅動和CUDA 版本都是需要滿足安裝的PyTorch 和TensorFlow 版本。

大多數新發布的大語言模型使用了較新的PyTorch v2.0+ 版本，Pytorch 官方認為CUDA 最低版本是11.8 以及匹配的GPU 驅動版本。詳情見Pytorch官方提供的CUDA 最低版本要求回复。

簡而言之，建議直接安裝當前最新的CUDA 12.3 版本，詳情見Nvidia 官方安裝包。

安裝完成後，使用nvidia-smi指令查看版本：

nvidia-smi

Fri Mar  1 11:16:55 2024
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 529.08       Driver Version: 529.08       CUDA Version: 12.0     |
| -------------------------------+----------------------+----------------------+
| GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
| ===============================+======================+====================== |
|   0  NVIDIA GeForce ... WDDM  | 00000000:01:00.0 Off |                  N/A |
| N/A   45C    P8     6W /  30W |      0MiB /  4096MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
| ============================================================================= |
+-----------------------------------------------------------------------------+

為了使用OpenAI API，你需要從OpenAI控制台獲取一個API密鑰。一旦你有了密鑰，你可以將其設置為環境變量：

對於基於Unix的系統（如Ubuntu或MacOS），你可以在終端中運行以下命令：

 export OPENAI_API_KEY= '你的-api-key '

對於Windows，你可以在命令提示符中使用以下命令：

 set OPENAI_API_KEY=你的-api-key

關於requirements,大家可以視情況下載

pip install -r requirements.txt

Transformers開發環境搭建

介紹

開發環境搭建包含幾個部分

• Miniconda
• Jupyter Lab
• Hugging Face Transformers，需要嘗試多種模型時候，建議tensorflow和pytorch都安裝
• 其他依賴包

Miniconda

Miniconda 是一個Python 環境管理工具，可以用來創建、管理多個Python 環境。它是Anaconda 的輕量級替代品，不包含任何IDE 工具。 Miniconda可以從官網下載安裝包。也可以從鏡像網站下載：

Miniconda環境的安裝

 # 下载 Miniconda 安装包
$ wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh
# 也可以使用curl命令下载
$ curl -O https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh
# 安装 Miniconda
$ bash Miniconda3-latest-Linux-x86_64.sh

安裝過程中，需要回答一些問題，如安裝路徑、是否將Miniconda 添加到環境變量等。安裝完成後，需要重啟終端，使環境變量生效。

可以使用以下命令來驗證Miniconda 是否安裝成功：

$ conda --version

配置Miniconda

Miniconda的配置文件存放在~/.condarc，可以參考文檔手工修改，也可以使用conda config命令來修改。

1. 為了加速包下載，可以配置使用國內的鏡像源：

 # 配置清华镜像
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
$ conda config --set show_channel_urls yes
# 查看~/.condarc配置
$ conda config --show-sources
channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  - defaults
show_channel_urls: True

2. 加速anaconda包的下載可以使用mamba或micromamba來代替conda，這兩個工具都是conda的替代品，會緩存包的版本信息，不需要在每次安裝包的時候都去檢查，這種可以有效提高conda-forge這種比較大的。安裝mamba或micromamba的方法如下：

 # 安装mamba
$ conda install -n base -c conda-forge mamba
# 安装micromamba
$ conda install -n base -c conda-forge micromamba

之後可以使用mamba或者micromamba命令代替conda命令。

創建虛擬環境

 # 创建虚拟环境，指定 Python 版本为 3.11
(base) $ conda create -n transformers python=3.11
# 激活 openai 环境
$ conda activate transformers

以下若無特殊說明，均在這里新建的openai環境中進行。

Jupyter Lab

Jupyter Lab 是一個交互式的開發環境，可以在瀏覽器中運行。它支持多種編程語言，包括Python、R、Julia 等。 Jupyter Lab由conda-forge提供，請先配置鏡像，然後使用以下命令安裝：

(transformers) $ conda install jupyterlab

Hugging Face Transformers

Hugging Face Transformers 是一個基於PyTorch 和TensorFlow 的自然語言處理工具包，提供了大量預訓練模型，可以用來完成多種NLP 任務。 Hugging Face Transformers 可以通過conda 安裝：

(transformers) $ conda install -c huggingface transformers

安裝文檔：Hugging Face Transformers

安裝tensorflow

Transformers需要使用tensorflow進行實際的模型推理，以下命令安裝tensorflow的CPU和GPU版本：

(transformers) $ pip install tensorflow

若是使用Mac，對M1/M2芯片可以安裝Metal插件，一些小一些的模型也可以嘗試：

(transformers) $ pip install tensorflow-metal

安裝文檔：

• tensorflow
• tensorflow-metal

安裝pytorch

Transformers需要使用pytorch進行實際的模型推理，在前面已經配置了使用的pytorch和conda-forge鏡像源，可以使用下命令安裝和CUDA版本對應的Pytorch版本：

 # Linux
# CUDA 11.8
(transformers) $ conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c nvidia
# CUDA 12.1
(transformers) $ conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c nvidia

# Mac
(transformers) $ conda install pytorch::pytorch torchvision torchaudio

安裝文檔：pytorch

安裝其他的依賴包

在處理圖像、音頻等數據時，需要使用到其他的依賴包，包括：

• tqdm、iprogress 進度條
• ffmpeg、ffmpeg-python 音頻處理工具
• pillow 圖像處理工具

(transformers) $ conda install tqdm iprogress ffmpeg ffmpeg-python pillow

祝學習進步