self llm

オープンソースのモックアップ食用ガイド

このプロジェクトは、オープンソースモデル、国内の初心者向け、Linuxプラットフォームに基づくオープンソースモデル向けの排他的な中国のベビーモデルに関するチュートリアルです。環境構成、ローカル展開、効率的な微調整、その他のスキルなど、さまざまなオープンソースモデルにフルプロセスガイダンスを提供し、オープンソースモデルの展開、使用、およびアプリケーションプロセスを簡素化し、通常の学生や研究者がオープンソースモデルをより適切に使用できるようになり、オープンソースモデルとフリーモデルが普通の学習者の生活をより速く統合できるようにします。

このプロジェクトの主な内容は次のとおりです。

1. Linuxプラットフォームに基づいたオープンソースLLM環境構成ガイド。さまざまなモデル要件のためのさまざまな詳細な環境構成ステップを提供します。
2. Llama、Chatglm、InternLMなどを含む、国内外で主流のオープンソースLLMの展開と使用のためのチュートリアル。
3. コマンドラインコール、オンラインデモの展開、Langchainフレームワークの統合など、オープンソースLLMの管理アプリケーションガイダンス。
4. 分散型フルスケールの微調整、LORA、PTUNINGなどを含む、オープンソースLLMのフルスケールの微調整と効率的な微調整方法。

プロジェクトの主な内容はチュートリアルです。そのため、より多くの学生と将来の開業医が、オープンソースの大きなモデルを食べる方法を理解し、慣れることができます。誰でも問題を提案するか、PRを提出して、このプロジェクトを共同で構築および維持することができます。

深く参加したい学生は私たちに連絡することができ、私たちはあなたをプロジェクトメンテナーに追加します。

学習の提案：このプロジェクトの学習提案は、最初に環境構成を学び、次にモデルの展開と使用を学び、最後に微調整を学ぶことです。環境構成は基礎であるため、モデルの展開と使用が基礎となり、微調整が高度になります。初心者は、学習に優先順位を付けるために、QWEN1.5、INTERNLM2、MINICPM、その他のモデルを選択できます。

注：学生が大きなモデルのモデル構成を理解し、RAG、エージェント、評価などのタスクをゼロから書きたい場合、DataWhaleの別のプロジェクトを学ぶことができます。 Big Modelは現在、深い学習の分野でホットなトピックですが、既存の大きなモデルのチュートリアルのほとんどは、APIを呼び出して大きなモデルのアプリケーションを完了する方法を教えることであり、原則レベルからモデル構造、RAG、エージェント、評価を説明できる人はほとんどいません。したがって、リポジトリはすべての手書きを提供し、APIを呼び出す形式を使用して、大きなモデルのRAG、エージェント、および評価タスクを完了しません。

注：一部の学生は、このプロジェクトを研究する前に大きなモデルの理論的部分を学びたいと考えていることを考慮して、LLMの理論的基礎をさらに研究し、理論に基づいてLLMをさらに理解し、適用することを望みます。

注：このコースを勉強した後、学生が自分で大規模なモデルアプリケーションを開発したい場合。学生は、初心者向けの大規模なモデルアプリケーション開発チュートリアルであるDatawhaleの実践的なビッグモデルアプリケーション開発コースを参照できます。 Alibaba Cloud Serverに基づいて、個人の知識ベースのアシスタントプロジェクトと組み合わされた、大きなモデルアプリケーション開発プロセスを学生に完全に提示することを目指しています。

プロジェクトの重要性

大きなモデルとは何ですか？

大規模モデル（LLM）は、ディープラーニングアルゴリズムに基づいてトレーニングされた自然言語処理（NLP）モデルを狭く指します。それらは主に自然言語の理解や生成などの分野で使用されています。広い意味では、マシンビジョン（CV）の大規模モデル、マルチモーダル大規模モデル、科学的コンピューティング大規模モデルも含まれています。

何百ものモデルの戦いが本格的であり、オープンソースLLMは次々と出現しています。今日、LlamaやAlpacaなどの多くの優れたオープンソースLLMが自宅と海外で出現しており、Chatglm、Baichuan、Internlm（Scholar Puyu）などの国内では、オープンソースLLMは、ユーザーのローカル展開とプライベートドメインの微調整をサポートしています。誰もがオープンソースLLMに基づいて独自のビッグモデルを作成できます。

ただし、普通の学生とユーザーがこれらの大きなモデルを使用したい場合は、モデルの展開と使用を完了するために特定の技術的能力を持つ必要があります。次々と出現しているオープンソースLLMの場合、オープンソースLLMのアプリケーション方法をすばやく習得することは比較的困難なタスクです。

このプロジェクトの目的は、コア貢献者の経験に基づいて、自宅および海外での主流のオープンソースLLMの展開、使用、微調整チュートリアルを最初に実現することを目的としています。メインストリームLLMの関連部分を実現した後、共同作成者を完全に集めて、このオープンソースLLMの世界を豊かにし、特別なLLMの包括的なチュートリアルを作成したいと考えています。海に収束するスパークスが点在します。

私たちは、LLMと一般大衆のはしごになり、自由と平等のオープンソースの精神で、より壮大で広大なLLMの世界を受け入れたいと考えています。

プロジェクトオーディエンス

このプロジェクトは、次の学習者に適しています。

• LLMを使用または体験したいが、関連するAPIを無条件に取得または使用したい。
• LLMを長期的、低コスト、大規模な方法で適用したいと考えています。
• オープンソースLLMに興味があり、自分でオープンソースLLMを始めたいと思っています。
• NLPは、LLMをさらに研究することを望んで、研究しています。
• オープンソースLLMを組み合わせて、ドメイン特性を持つプライベートドメインLLMを作成したいと考えています。
• そして、広大で最も普通の学生グループ。

プロジェクトの計画と進捗

このプロジェクトは、環境構成と使用、展開とアプリケーション、微調整などを含む、オープンソースLLMアプリケーションのプロセス全体を整理する予定です。各部品は主流をカバーし、オープンソースLLMを備えています。

例シリーズ

• Chat-huanhuan：Chat-Zhen Huanは、脚本「The Legend of Zhen Huan」とLLMに基づく微調整のすべてのラインと文を使用して、Zhen Huanのトーンを模倣するチャット言語モデルです。

• Tianji：Tianjiは、人間の感情と世俗的なスタイルに基づいた社会的シナリオであり、迅速な単語工学、インテリジェントボディの生産、データ収集、モデルの微調整、RAGデータのクリーニングと使用などのプロセス全体をカバーしています。

サポートされているモデル

• QWEN2.5-CODER

  • QWEN2.5-CODER-7B-INSTRUCT FASTAPI DEPLOYMENT CALL @ZHAO WENKAI
  • QWEN2.5-CODER-7B-INSTRUCT LANGCHIAN ACCESS @YANG CHENXU
  • QWEN2.5-CODER-7B-INSTRUCT WebDemo Deployment @wang Zeyu
  • qwen2.5-coder-7b-instruct vllm deployment @wang zeyu
  • QWEN2.5-CODER-7B-INSTRUCT LORA FINY TUNING @ BOUWEAT
  • QWEN2.5-CODER-7B-INSTRUCT LORA微調整スワンラブビジュアルレコードバージョン@yang Zhuo

• QWEN2-VL

  • QWEN2-VL-2B FASTAPI DEPLOYMENT CALL @JIANG SHUFAN
  • qwen2-vl-2b webdemo deployment @zhao wei
  • qwen2-vl-2b vllm deployment @buckwheat
  • qwen2-vl-2b lora微調整@li kechen
  • QWEN2-VL-2B LORA微調整スワンラブビジュアルレコードバージョン @ lin zeyi
  • QWEN2-VL-2B LORA微調整ケース-Latexocr @lin Zeyi

• QWEN2.5

  • QWEN2.5-7B-INSTRUCT FASTAPI DEPLOYMENT CALL @LOU TIANAO
  • QWEN2.5-7B-INSTRUCT LANGCHAIN ACCESS @LOU TIANAO
  • QWEN2.5-7B-INSTRUCT VLLM DEPLOYMENT CALL @JIANG SHUFAN
  • QWEN2.5-7B-Instruct WebDemo Deployment @Gao Liye
  • QWEN2.5-7B-INSTRUCT LORA FINY TUNING @ ZUO CHUNSHENG
  • QWEN2.5-7B-Instruct O1-like Recosing Chainの実装@Jiang Shufan
  • QWEN2.5-7B-INSTRUCT LORA微調整スワンラブビジュアルレコードバージョン@lin Zeyi

• Apple Openelm

  • OpenELM-3B-Instruct Fastapi Deployment call @wang Zeyu
  • OpenELM-3B-Instruct Lora Fine Tuning @wang Zeyu

• llama3_1-8b-instruct

  • llama3_1-8b-Instruct fastapi deployment call @do n't do n't Scallions、Ginger、Garlic
  • llama3_1-8b-Instruct langchainアクセス @ Zhang Jin
  • llama3_1-8b-Instruct webdemo deployment @zhang jin
  • llama3_1-8b-instruct lora微調整

• gemma-2-9b-it

  • Gemma-2-9B-It Fastapi Deployment Call @Do n't Scallion、Ginger、Garlic
  • gemma-2-9b-it langchainアクセス @ネギ、生inger、ニンニクはありません
  • Gemma-2-9b-it webdemo deploy @do n't do n't scallions、ginger、garic
  • gemma-2-9b-it peft lora微調整

• yuan2.0

  • Yuan2.0-2B Fastapi Deployment Call @zhangファン
  • Yuan2.0-2B Langchain Access @ Zhangファン
  • yuan2.0-2b webdemo deployment @zhangファン
  • Yuan2.0-2b Vllm deployment call @zhangファン
  • yuan2.0-2b lora微調整 @ zhangファン

• Yuan2.0-M32

  • Yuan2.0-M32 Fastapi Deployment Call @zhangファン
  • Yuan2.0-M32 Langchain Access @ Zhangファン
  • Yuan2.0-M32 webdemo deployment @zhangファン

• deepseek-coder-v2

  • deepseek-coder-v2-lite-instruct fastapi deployment call @jiang shufan
  • deepseek-coder-v2-lite-instruct langchainアクセス@jiang shufan
  • deepseek-coder-v2-lite-instruct webdemo deployment @kailigithub
  • deepseek-coder-v2-lite-instruct lora微調整@yu yang

• Bilibili Index-1.9b

  • index-1.9b-chat fastapi deployment @deng kaijunを呼び出します
  • index-1.9b-chat langchainアクセス@zhang youdong
  • index-1.9b-chat webdemo deployment @september
  • index-1.9b-chat lora微調整@jiang shufan

• QWEN2

  • QWEN2-7B-INSTRUCT FASTAPI DEPLOYMENT CALL @KANG JINGQI
  • QWEN2-7B-Instruct Langchain Access @ネギ、生inger、ニンニクはありません
  • QWEN2-7B-Instruct webdemo deployment @sanshui
  • QWEN2-7B-INSTRUCT VLLM DEPLOYMENT CALL @JIANG SHUFAN
  • QWEN2-7B-INSTRUCT LORA Fine Tuning @ Walking

• GLM-4

  • GLM-4-9B-CHAT FASTAPI DEPLOYMENT CALL @ZHANG YOUDONG
  • GLM-4-9B-CHAT LANGCHAIN ACCESS @TAN Yike
  • GLM-4-9B-chat webdemo deployment @he zhixuan
  • GLM-4-9B-chat vllm deployment @wang yiming
  • GLM-4-9B-chat lora微調整@xiao hongru
  • GLM-4-9b-chat-hf lora微調整 @ fu zhiyuan

• Qwen 1.5

  • QWEN1.5-7B-CHAT FASTAPI DEPLOYMENT CALL @YAN XIN
  • qwen1.5-7b-chat langchainアクセス@yan xin
  • qwen1.5-7b-chat webdemo deployment @yan xin
  • Qwen1.5-7b-chat lora微調整 @スパイシーな生ingerとニンニクをしないでください
  • qwen1.5-72b-chat-gptq-int4デプロイメント環境 @byx020119
  • QWEN1.5-MOE-CHATトランスの展開@Ding Yue
  • QWEN1.5-7B-CHAT VLLM Reasoning Deployment@gao liye
  • QWEN1.5-7B-CHAT LORA微調整スワンラブ実験管理プラットフォーム@huang boteへのアクセス

• Google-ジェマ

  • gemma-2b-it fastapi deployment call @dongdong
  • gemma-2b-it langchainアクセス@dongdong
  • Gemma-2b-it webdemo deployment @dongdong
  • gemma-2b-it peft lora微調整 @ dongdong

• PHI-3

  • PHI-3-MINI-4K-INSTRUCT FASTAPI DEPLOYMENT CALL @ZHENG HAOHUA
  • PHI-3-MINI-4K-INSTRUCT LANGCHAIN ACCESS @ZHENG HAOHUA
  • PHI-3-MINI-4K-Instruct webdemo deployment @ding yue
  • phi-3-mini-4k-instruct lora微調整@ding yue

• CharpleGLM-6B

  • CharpleGLM-6Bトランスの展開@sun Jianzhuangに電話をかけます
  • Charpleglm-6b Fastapi Deployment Call @sun Jianzhuang
  • CharpleGlm-6B Webdemo Deployment @sun Jianzhuang
  • Charpleglm-6b lora微調整@sun jianzhuang

• llama3-8b-instruct

  • llama3-8b-instruct fastapi deployment call @gao liye
  • llama3-8b-Instruct langchainアクセス @せbe、生inger、ニンニクをしないでください
  • llama3-8b-Instruct webdemo deployment @scall、生inger、ニンニクをしないでください
  • llama3-8b-instruct lora微調整 @ gao liye

• vesverse-7b-chat

  • vesverse-7b-chatトランスの展開@guo zhihangに電話をかけます
  • vesverse-7b-chat fastapi deployment @guo zhihangを呼び出します
  • vesverse-7b-chat langchainアクセス@guo zhihang
  • vesverse-7b-chat webdemo deployment @guo zhihang
  • vesverse-7b-chat lora微調整 @ guo zhihang

• transnormerllm

  • transNormerllm-7b-chat fastapi deployment call @wang maolin
  • transNormerllm-7b-chat langchainアクセス@wang maolin
  • transNormerllm-7b-chat webdemo deployment @wang maolin
  • transNormerllm-7b-chat lora微調整@wang maolin

• Bluelm Vivo Blue Heartモデル

  • bluelm-7b-chat fatapi展開@guo zhihang
  • bluelm-7b-chat langchainアクセス@guo zhihang
  • bluelm-7b-chat webdemo deployment @guo zhihang
  • bluelm-7b-chat lora微調整 @ guo zhihang

• internlm2

  • internlm2-7b-chat fastapi deployment call @do n't scallion、ginger、garinc
  • internlm2-7b-chat langchainアクセス @ネギ、生inger、ニンニクはありません
  • internlm2-7b-chat webdemo deployment @zheng haohua
  • internlm2-7b-chat xtuner qlora微調整@zheng haohua

• DeepSeek詳細な検索

  • deepseek-7b-chat fastapi deployment call @do n't scallion、ginger、garlic
  • deepseek-7b-chat langchainアクセス @ネギ、生inger、ニンニクはありません
  • deepseek-7b-chat webdemo @は、ネギ、生inger、ニンニクを持っていません
  • deepseek-7b-chat lora細かい調整 @せかないで生inger、ニンニク
  • deepseek-7b-chat 4bits定量的qlora微調整
  • deepseek-moe-16b-chatトランスの展開@kailigithubを呼び出します
  • deepseek-moe-16b-chat fastapi deployment @kailigithubを呼び出します
  • deepseek-coder-6.7b winune colab @swiftie
  • deepseek-coder-6.7b webdemo colab @swiftie

• Minicpm

  • minicpm-2b-chatトランスの展開@kailigithubを呼び出します
  • minicpm-2b-chat fastapi deployment call @kailigithub
  • minicpm-2b-chat langchainアクセス @ネギ、生inger、ニンニクはありません
  • minicpm-2b-chat webdemo deployment @kailigithub
  • minicpm-2b-chat lora && full fine adact @scallions、ginger、gulicをしないでください
  • 公式リンク：壁に向かう小さな大砲@openbmbに関するMinicPMチュートリアル
  • 公式リンク：Minicpm-Cookbook @openbmb

• qwen-audio

  • QWEN-AUDIO FASTAPI DEPLOYMENT CALL @CHEN SIZHOU
  • Qwen-Audio webdemo @chen sizhou

• Qwen

  • QWEN-7B-CHATトランスの展開@li Jiaojiaoを呼び出します
  • Qwen-7b-chat fastapi deployment call @li jiaojiao
  • Qwen-7b-chat webdemo @li jiaojiao
  • Qwen-7b-chat lora微調整 @スパイシーな生ingerとニンニクをしないでください
  • Qwen-7b-chat ptuning微調整@xiao hongru
  • QWEN-7B-chatフル量の罰金調整 @せs、生inger、ニンニクをしないでください
  • Qwen-7b-chatlangchainへのアクセスして知識ベースアシスタント@li jiaojiaoを構築する
  • Qwen-7b-chat低精度トレーニング@xiao Hongru
  • qwen-1_8b-chat cpu deployment @成

• 1000のこと

  • yi-6b-chat fastapi deployment call @li kechen
  • yi-6b-chat langchainアクセス@li kechen
  • yi-6b-chat webdemo @xiao hongru
  • yi-6b-chat lora微調整@li jiaojiao

• Baichuan Intelligent

  • baichuan2-7b-chat fastapi deployment call @hui jiahao
  • baichuan2-7b-chat webdemo @hui jiahao
  • baichuan2-7b-chat langchainフレームワーク@hui jiahaoへのアクセス
  • baichuan2-7b-chat lora微調整 @ hui jiahao

• internlm

  • internlm-chat-7bトランス展開 @小时
  • internlm-chat-7b fastapi deployment call @do n't do n't scallions、ginger and nulic
  • Internlm-chat-7b webdemo @は、ネギ、生inger、ニンニクを持っていません
  • lagent+internlm-chat-7b-v1.1 webdemo @scall、生inger、ニンニクをしないでください
  • Puyu Lingbiグラフィックとテキストの理解と作成webdemo @日本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本本�
  • internlm-chat-7b langchainフレームワーク@logan zouへのアクセス

• アトム（llama2）

  • Atom-7b-chat webdemo @kailigithub
  • Atom-7b-chat lora微調整@logan zou
  • Atom-7b-chatはLangchainに接続して知識ベースのアシスタント @ Chen Sizhouを構築します
  • Atom-7b-chatフルファインチューニング@logan Zou

• chatglm3

  • chatglm3-6bトランスの展開コール@ding yue
  • chatglm3-6b fastapi deployment call @ding yue
  • chatglm3-6bチャットwebdemo @scall、生inger、ニンニクをしないでください
  • chatglm3-6bコードインタープリターwebdemo @do n't scallion、ginger、garlic
  • chatglm3-6b langchainフレームワーク@logan zouへのアクセス
  • chatglm3-6b lora微調整@xiao hongru

一般的な環境構成

• ピップ、コンドラチェンジソース @タマネギ、生inger、ニンニクはありません

• autodl openポート @スパイシーな生ingerとニンニクをしないでください

• モデルダウンロード

  • 顔を抱きしめる @緑の玉ねぎ、生inger、ニンニクを持っていない
  • 抱きしめる顔の画像ダウンロード @タマネギ、生inger、ニンニクを持っていない
  • ModelScope @は、ネギ、生inger、ニンニクを持っていません
  • git-lfs @は、ネギ、生inger、ニンニクを持っていません
  • openxlab

• Issue && pr

  • 発行@xiao Hongruを送信します
  • PR @xiao Hongruを提出します
  • フォークアップデート@xiao Hongru

謝辞

コア貢献者

• Song Zhixue（タマネギ、生inger、ニンニクを持っていない） - プロジェクトのリーダー（Datawhale-China University of Mining and Technology（北京）のメンバー）
• Zou Yuheng -Project Leader（Datawhaleのメンバー - 国際ビジネス経済大学）
• Xiao Hongru（Datawhale-Tongji Universityのメンバー）
• Guo Zhihang（コンテンツクリエーター）
• Zhangファン（コンテンツクリエーターダタワレメンバー）
• Jiang Shufan（コンテンツクリエーターをjingするアシスタント教師）
• Li Jiaojiao（Datawhaleのメンバー）
• Ding Yue（Datawhale-Jingying Assistant Teacher）
• Lin Zeyi（コンテンツクリエータースワンラブプロダクトマネージャー）
• Hui Jiahao（Datawhale-Propaganda Ambassador）
• Wang Maolin（コンテンツクリエーター-Datawhaleメンバー）
• Sun Jianzhuang（国際的なビジネスと経済学のコンテンツクリエーター大学）
• Dongdong（コンテンツクリエーターGoogle開発者機械学習テクノロジーの専門家）
• gao liye（コンテンツクリエーター - ダタワレメンバー）
• Wang Zeyu（コンテンツクリエータータイユアンテクノロジー大学 - ジンジーアシスタント教育）
• Kailigithub（Datawhaleメンバー）
• Zheng Haohua（コンテンツクリエーター）
• Li Kechen（Datawhaleのメンバー）
• チェン・シズー（ダトワハレのメンバー）
• ウォーク（Datawhaleメンバー）
• Yan Xin（Datawhaleのメンバー）
• ソバ（コンテンツクリエーターダタワレメンバー）
• Swiftie（Xiaomi NLPアルゴリズムエンジニア）
• Huang Bote（コンテンツクリエーター-Xi'an電子科学技術大学）
• Zhang Youdong（コンテンツクリエーター-Datawhaleメンバー）
• Yu Yang（コンテンツクリエーターダタワレメンバー）
• Zhang Jin（コンテンツクリエーター-Datawhaleメンバー）
• Lou Tianao（中国科学アカデミーのコンテンツクリエイター大学、アシスタントアシスタント教育）
• Zuo Chunsheng（コンテンツクリエーター-Datawhaleメンバー）
• Yang Zhuo（コンテンツクリエーター - Xi'an電子科学技術大学 - ジンジーアシスタント教育）
• luo luo（コンテンツクリエーター - ダタワレメンバー）
• Tan Yike（コンテンツクリエーター - 国際ビジネス経済学大学）
• Wang Yiming（コンテンツクリエーターダタワレメンバー）
• 彼はzhixuan（コンテンツクリエーターをjingするアシスタント教師）
• Kang Jingqi（コンテンツクリエーター-Datawhaleメンバー）
• sanshui（コンテンツクリエイター - ジンギーアシスタントティーチャー）
• 9月（コンテンツクリエーターダタワレ意図メンバー）
• Deng Kaijun（コンテンツクリエーター-Datawhaleメンバー）
• Yang Chenxu（コンテンツクリエータータイユアンテクノロジー大学 - ジンジーアシスタント教育）
• Zhao Wenkai（コンテンツクリエータータイユアンテクノロジー大学 - ジャイイングアシスタント教育）
• Zhao Wei（コンテンツクリエーター - ジャイイングアシスタント教師）
• Fu Zhiyuan（コンテンツクリエーター - ハイナン大学）

注：ランキングは貢献レベルでソートされます

他の

• このプロジェクトの助けとサポートに @SM1LESに感謝します
• いくつかのLORAコードと説明リファレンスリポジトリ：https：//github.com/zyds/transformers-code.git
• アイデアがある場合は、DataWhaleにお問い合わせください。誰もが問題を提出することを歓迎します。
• 以下のチュートリアルに貢献してくれた学生に感謝します！

星の歴史