Finetune LLAMA 2 On Your DataSet AutoTrain From Hugging Face

llama-3.1-8bモデルを使用した微調整と推論

このプロジェクトは、LORAアダプターを使用してLlama-3.1-8Bモデルを微調整し、チャットテンプレートを適用し、推論のためにモデルを保存する方法を示しています。このモデルは、ローカルデータでトレーニングされ、パラメーター効率の高いトレーニング用に最適化され、ハグするフェイスハブに展開されます。

概要

• モデル：効率的なメモリ使用量のための4ビット量子化を備えたLlama-3.1-8B。
• テクニック：LORA（低ランク適応）アダプター、グラデーションチェックポイント、およびチャットテンプレートを使用した微調整。
• データ：トレーニングに使用されるカスタムローカルCSVファイル。
• 目標：ユーザー入力を会話ベースの形式で処理できるチャットボットモデルをトレーニングおよび展開します。

特徴

• LORAアダプター：パラメーター効率の高い微調整。
• 量子化：4ビット精度の効率的なメモリ使用。
• チャットテンプレート：トークン化による構造化された会話の流れ。
• モデルの展開：モデルを保存およびプッシュして、さまざまな量子化形式でフェイスハブを抱き締めます。

インストール

このプロジェクトを実行するには、必要なパッケージをインストールする必要があります。これをGoogle Colabまたはあなたのローカル環境で設定できます。

pip install torch transformers datasets pandas unsloth trl