Zicklein
1.0.0
このリポジトリは、LlamaモデルのドイツのFinetunedバージョン用です。このモデルは、研究でのみ設計されています。
**現在、Llama 2（31.08.2023）でのトレーニング**
スペースは現在オフラインです。
私がさらに見たことがあるなら、それはラマの後ろに立っています。 - アイザック・ニュートン
このプロジェクトのインスピレーションをいただいてくれたラマ、カブリタのポルトガル語の微妙なバージョンに感謝します。また、ベースラマモデルを開発および訓練し、微調整の時代を引き起こしてくれたメタAIに感謝します。ここでは、ラマモデルのウェイトを申請してください。
ドイツを翻訳したバージョンの洗浄されたスタンフォードアルパカデータセットが使用されました。元のStanford Alpacaデータセットはこちらから入手できます。翻訳は、Huggingfaceのfacebook/wmt19-en-de modelを介して行われましたか？ハブ。
データセットの構成方法の詳細については、Stanford Alpacaをご覧ください。
ベースラインLLAMA-7Bモデルは、HuggingfaceのPEFTを使用するAlpaca Lora Forkのコードの一部を使用して、8ビット量子化でLORAメソッドを使用してFINTUNEDを使用しました。 Finetuningスクリプトはここにあります。 Finetuningは、1000ステップで単一のA100 40GB GPUを使用して行われました。
Finetunedモデルのチェックポイントは、Huggingfaceでダウンロードできますか？：
スタンフォードアルパカ：
In welchen Ländern gibt es Lamas?
Llamas can be found in Bolivia, Peru, Chile, Ecuador, and Argentina.
Zicklein：
In welchen Ländern gibt es Lamas?
Lamas gibt es in den folgenden Ländern: Argentinien, Bolivien, Brasilien, Chile, Ecuador, Kolumbien,
Peru, Uruguay und Venezuela.
スタンフォードアルパカ：
Was ist die Rolle des Präsidenten?
The role of the President is to serve as the head of state and the commander-in-chief of the armed
forces. The President is responsible for executing the laws of the land, appointing judges and other
government officials, and representing the United States in international relations.
Zicklein：
Was ist die Rolle des Präsidenten?
Die Rolle des Präsidenten besteht darin, die Verfassung der Vereinigten Staaten zu verwalten und die
Regierung zu leiten.
