Awesome Domain LLM

素晴らしいドメインLLM

ChatGptが代表する大規模な言語モデルの出現以来、新しいラウンドの研究とアプリケーションが発生し、Llama、Chatglm、Baichuan、Qwenなどを含む多くの一般的なモデルが出現しました。その後、異なるフィールドの実践者は、一般的なモデルに基づいて連続前トレーニング/命令の微調整を通じて垂直フィールドにそれを適用します。

このプロジェクトは、垂直フィールドでのオープンソースモデル、データセット、評価ベンチマークを収集して整理することを目的としています。誰もが、このプロジェクトに含まれていないオープンソースモデル、データセット、評価ベンチマーク、その他のコンテンツを提供し、あらゆる歩みにおいて大きなモデルのエンパワーメントを共同で促進することを歓迎します！

？更新します

• [2023/11/26]強化されたネットワークセキュリティビッグモデルSecgpt、Medical Big Model Chimed-Gpt、Financial Big Model Tongyi-Finance-14B、Financial Evaluation Benchmark FinanceBenchおよびCFBenchmark。
• [2023/11/01] DevOpsフィールドビッグモデルDevOps-Modelと評価ベンチマークDevOps-EvalがANT Group and Peking Universityがリリースします。
• [2023/10/28] Financial Model Disc-Finllm、Medical Model Alpacare、およびMarine Model Marinegptを追加しました。
• [2023/10/19]心理モデルMentalllama、バイリンガル生物医学モデルTaiyi（Taiyi）、およびOcean Model Oceangptを追加しました。
• [2023/10/10] Yunzhi Intelligent Research InstituteとBeihangが共同で開発した操作およびメンテナンス分野のために、大きなモデルOwlおよび評価ベンチマークフクロウベンチを追加しました。中国の法的モデル評価のためにベンチマークLAIWを追加しました。
• [2023/10/05]心理モデルのChatpsychiatrist、Financial Model Investlm、Agricultural Model Agrigpt、およびMedical Model Wingpt2の追加。
• [2023/10/03] 2つの法的評価ベンチマークが追加されています。つまり、中国の法制度の法律と米国の法制度の法律のベンチ。
• [2023/10/01] Fudan Universityがソースした法的分野の大きなモデルであるDisc-Lawllmを追加しました。 FINGLMを追加して、公開、公共の福祉、永続的な金融モデルプロジェクトを構築し、オープンソースを使用して「AI+Finance」を促進します。
• [2023/9/25] QWENを更新し、QWEN-14BおよびQWEN-14B-CHATモデルを追加し、QWEN-7BおよびQWEN-7B-CHATモデルを更新します。元のQWEN-7Bと比較して、新しいバージョンはより多くのトレーニングデータ（2.4Tトークン）を使用し、シーケンスの長さは2048から8192に拡張されました。中国の全体的な能力とコード能力は大幅に改善されました。
• [2023/9/22]香港の中国大学およびフダン大学のオープンソース多言語ドックモデルと共同で、internlm（Scholar Puyu）、Shanghai AI Laboratory and Sensetime Technologyを追加します。
• [2023/9/15] Zhongjing-Llama（Zhongjing）を追加しました。これは、トレーニング前、監視付きの微調整、RLHFの完全なトレーニングプロセスを備えた漢方薬モデルです。
• [2023/9/14] Weaverbirdを追加して、地元の知識とオンライン検索機能を備えたFinancial Field Dialogue Modelにアクセスします。
• [2023/9/13]シャンドン大学、Inspur Cloud、China University of Political Science and Lawが共同で開発した司法モデルであるMaster Mingzhaを追加します。

目次

• ？モデル
  • 一般モデル
  • ？ドメインモデル
    • ？医学
    • ⚖リーガル
    • ？ファイナンス
    • ？教育する
    • ➕その他
• データセット
• ？評価ベンチマーク
• ？付録
  • 歴史のように
  • ？フレンドリーなリンク

？モデル

一般モデル

通常、ドメインモデルは、一般的なモデルに基づいた命令の連続的なトレーニングまたは微調整によって取得されます。ここでは、一般的に使用されるオープンソースの一般モデルを整理します。

モデル	サイズ	機構	紙
llama2	7b/7b-chat 13b/13b-chat 70b/70b-chat	メタ	紙
chatglm3-6b	6Bベース/6B/6B-32K	ツィンガ大学	紙
Qwen	1.8b/1.8b-chat 7b/7b-chat 14b/14b-chat 72b/72b-chat	アリババクラウド	紙
Baichuan2	7b/7b-chat 13b/13b-chat	Baichuan Intelligent	紙
internlm	7b/7b-chat 20b/20b-chat	上海AI研究所	紙

？ドメインモデル

？医学

• chimed-gpt [紙]

  • Chimed-Gptは、Ziya-V2に基づく中国の医療モデルです。 Ziya-V2に基づいて、人間のフィードバックからのトレーニング前の監視施設微調整（SFT）および強化学習（RLHF）が包括的な方法で実施されました。

• Alpacare [Paper]

  • このプロジェクトオープンは、ラマで微調整されたメディカルモックアップアルパカレを調達しました。

• 太陽（太極）[紙]

  • 中国と英語のバイリンガルの生物医学的モックアップTaiyi（Taiyi）のプロジェクトのオープンソースは、生物医学の分野でのバイリンガルの自然言語加工マルチタスクの能力を探ることを目指しています。

• Mentalllama [紙]

  • プロジェクトのオープンソースメンタルモックアップメントールラマ。ソーシャルメディアでの解釈可能なメンタルヘルス分析に使用できます。

• wingpt2

  • WingPTは、専門的な医療知識、医療情報、データを統合することを目的としたGPTベースの医療垂直モデルであり、診断と治療効率と医療サービスの品質を改善するための医療Q＆A、診断サポート、医療知識などのインテリジェントな情報サービスを提供します。

• chatpsychiatrist [紙]

  • LLAMA-7Bの微調整に基づいた心理モデルであるProject Open Source ChatPsychiatristは、心理的な問題を迅速に特定し、テーラーメイドの治療の推奨事項を提供できます。

• Zhongjing-llama（Zhongjing）[紙]

  • このプロジェクトオープンは、トレーニング前、監督付きの微調整およびRLHFの完全なトレーニングプロセスを含む最初の漢方薬の大きなモデルを調達しました。さらに、実際の医師と患者の会話から完全に70,000を含むマルチラウンドの会話データセットも開かれました。このデータセットには、多数の医師の積極的な質問文が含まれています。これは、モデルの積極的な医学調査能力の改善に役立ちます。

• 博士[紙]

  • CHATGLM-6Bの中国の協議モデルに基づいて、中国の医療対話データセットの微調整と展開は、LORA、P-Tuningv2などの微調整と展開を通じて達成されます。

• ベンツァオ（材料ハーブ）[紙]

  • このプロジェクトは、医療知識グラフと医学文献に基づいて、Llama、Alpaca-Chinese、Bloom、Movable Type Modelなどの中国の医療指示によって細かく調整された大規模な言語モデルセットのソースを開きます。ChatGPTAPIと組み合わせて、中国の医療指導の微調整データセットを構築し、さまざまなモデルの指示を微調整するためにこれを使用して、これを使用します。

• Med-chatglm

  • プロジェクトのオープンソースChatGlm-6Bモデルは、中国の医療指示によって微調整されており、微調整データはBentsaoと同じです。

• ビアンケ（ビアンケ）[紙]

  • このプロジェクトは、リビングスペースヘルスの大きなモデルの源泉を開きます。現在のオープンソースの中国の医療データセット（MedDialog-CN、IMCS-V2、CHIP-MDCFNPC、MEDDG、CMEDQA2、CHEDQA2、CHERNICAL-DIALOGUE-DATA）と組み合わせて、シングルラウンド/マルチラウンドの特性と医師の調査特性が分析され、Self Built Living Yeal Gealtのビッグデータと組み合わされています。数百万のレベルが構築されました。 Bianque HealthのビッグデータBianQuecorpusに基づいて、ChatGlm-6Bが初期化モデルとして選択され、Bianqueは完全なパラメーターの微調整トレーニングを通じて取得されました。

• huatuogpt（hua tuo）[紙]

  • このプロジェクトは、Ziya-llama-13b-pretrain-V1トレーニングに基づくBaichuan-7bおよびHuatuogpt-13bトレーニングに基づくHuatuogpt-7bトレーニングを含む、医療ビッグモデルHuatuogptを調達しました。

• Qizhengpt

  • このプロジェクトは、Qizhen Medical Knowledge Baseによって構築された中国の医療指導データセットを使用しており、これに基づいて、指示は中国のラマと7B、CAMA-13B、およびCHATGLM-6Bモデルで微調整されており、中国の医療シナリオにおけるモデルの効果を大幅に改善しています。

• チャットされた

  • このプロジェクトオープンは、中国のメディカルビッグモデルチャットコンスルトを調達しました。これは、トレーニングセットとしてChatmed_consult_datasetの50w +オンラインコンサルティング + ChatGPT返信をトレーニングセットとして使用し、LLAMA-7Bに基づくLORA微調整を使用して取得されます。

• Shennong-tcm-llm（シェンノン）

  • プロジェクトオープンソース中国の伝統中国医学の大きなモデルShennong-TCM-llm。オープンソースの従来の漢方薬の知識グラフに基づいて、エンティティ中心の自己計算方法を採用し、ChatGptを呼び出して2.6W+従来の漢方薬指示データセットCHATMED_TCM_DATASETを取得します。データセットに基づいて、LORAを使用したLlamaと微調整に基づいています。

• xrayglm

  • このプロジェクトは、中国のマルチモーダル医療データセットとモデルを開き、医療イメージングの診断とインタラクティブな対話の複数回のラウンドで並外れた可能性を示しています。

• MedicalGpt

  • プロジェクトのオープンソースMedical Model MedicalGptには、漸進的なトレーニング、監視付き微調整、RLHF（報酬モデリング、補強学習トレーニング）およびDPO（直接優先最適化）が含まれます。

• Sunsimiao（Sun Simiao）

  • プロジェクトオープンソース中国の医療モデルSunsimiaoは、100,000の高品質の中国の医療データにおけるBaichuan-7BおよびChatGlm-6Bベースモデルに基づいて微調整されています。

• Caregpt

  • プロジェクトのオープンソースメディカルモデルCaregpt（Caregpt）は、医療LLMの迅速な発展を促進するために、LLMトレーニング、評価、展開などを含む、数十の公開されている医療微調整データセットと公然と利用可能な医療大規模な言語モデルをまとめます。

• disc-medllm [紙]

  • このプロジェクトは、Fudan Universityがリリースした医療および健康対話シナリオ向けに設計された医療分野の大きなモデルとデータセットです。このモデルは、Baichuan-13Bベース命令に基づいてディスクメイドSFTデータセットを微調整し、医療シナリオでの人間の好みを効果的に整合させ、共通言語モデルの出力と現実世界の医療対話の間のギャップを埋めることによって取得されます。

• PMC-llama [紙]

  • プロジェクトのオープンソースMedical Mockup PMC-lama。これには、Medllama_13bの事前に訓練されたバージョンやPMC_llama_13bの微調整バージョンが含まれます。

• chatdoctor [紙]

  • プロジェクトオープンソースの医療モデルChatDoctorは、Llamaでトレーニングされています。

• Ming（Ming Medical）

  • プロジェクトのオープンソースメディカルビッグモデルMingは、Ming-7Bを取得するためのBloomz-7Bの指導の微調整に基づいており、医療Q＆A、インテリジェントコンサルテーション、その他の機能をサポートしています。

• ivygpt

  • プロジェクトのオープンソースメディカルモックアップIvygptは、高品質の医療Q＆Aデータの微調整を監督し、人間のフィードバックからの強化学習を使用して訓練されています。

• 脈

  • プロジェクトのオープンソース中国の医療モデルパルスは、健康教育、医師の試験の質問、報告、解釈、構造化された医療記録、シミュレートされた診断と治療など、医療分野のさまざまな自然言語処理タスクをサポートするために、中国医学および一般分野からの約4,000,000の指令データを使用しています。

• huangdi（皇帝）

  • このプロジェクトは、中国医学の大きなモデルHuangdi（皇帝）の源泉を開きます。このモデルでは、最初に漢方薬の教科書、漢方薬のウェブサイトデータ、およびその他のコーパスを追加して、Ziya-llama-13b-V1ベースモデルに基づいて、漢方薬の知識を理解してトレーニング前モデルを訓練します。次に、これに基づいて、大量の漢方薬の古代の本の指示対話データと一般的な指導データを通じて監督され、微調整されているため、モデルには漢方薬の古代の本の知識に答える能力があります。

• Zhongjing（Zhongjing）

  • このプロジェクトは、伝統的な漢方薬の深い知識を明確にし、古代の知恵と現代の技術革新を継承し、最終的に医療分野に信頼できる専門的なツールを提供することを目的とした漢方医学モデルのZhongjing（Zhongjing）を開きます。

• tcmllm

  • このプロジェクトは、伝統的な漢方薬（疾患診断、処方の推奨など）の臨床補助診断と治療のタスクと、大きなモデルを通じてその他の伝統的な漢方薬の知識の質問と回答のタスクを実現し、伝統的な漢方薬の知識の質問と回答、臨床補助診断と治療分野の急速な発展を促進することを計画しています。現在、伝統的な漢方薬の臨床的インテリジェントな診断と治療における処方の推奨タスクに応じて、伝統的な漢方薬の処方推奨モデルのTCMLLM-PRがリリースされました。現実世界の臨床記録、医療古典、伝統的な漢方薬の教科書、その他のデータを統合することにより、68Kデータエントリを含む処方推奨指示微調整データセットが構築され、ChatGlm Bigモデルで微調整が得られました。

• メカト[紙]

  • このプロジェクトオープンは、中国のメンタルヘルスサポート対話モデルとデータセットを調達しました。このモデルは、chatglm-6b lora 16ビット命令によって微調整されています。データセットはChatGptを使用して、実際の心理的相互支援QAを書き直し、複数回のメンタルヘルスのための複数のラウンドの対話をサポートします。データセットには56kのマルチラウンドダイアログが含まれており、その対話のテーマ、語彙、章のセマンティクスはより豊かで多様であり、長期的なマルチラウンドダイアグのアプリケーションシナリオに沿ったものです。

• soulchat（スピリチュアルハート）[紙]

  • プロジェクトオープンは、Mental Health ModelのSoulChat（Spiritual Heart）を調達しました。これは、ChatGlm-6Bを初期化モデルとして使用し、100万スケールと複数回の共感対話データの心理カウンセリングの分野における中国語の長いテキストの共同指示によって微調整されています。

• MindChat（アーカイブ）

  • プロジェクト心理モデルMindchat（アニメトーク）のオープンソース。これは、トレーニング、家族、学習、生活、社会、安全性、その他の側面をカバーするために、約200,000の高品質のマルチラウンド心理的対話データを手動で使用しています。心理的カウンセリング、心理的評価、心理診断、心理的治療の4つの側面から、人々が心理的ストレスを和らげ、心理的混乱を解決するのに役立つことが期待されています。

• Qiaoban（王子）

  • プロジェクト子供の感情的な対話のオープンソースビッグモデルQiaoban。これは、一般的なドメインのヒューマンコンピューターの対話、シングルホイール指導データ、および子供の感情的なコンパニオンダイアログデータを微調整するために、子どもの感情的な交際に適した大きなモデルを開発するオープンソースの一般モデルに基づいています。

⚖リーガル

• disc-lawllm [紙]

  • Disc-Lawllmは、ユーザーに専門的でインテリジェントで包括的な法的サービスを提供するように設計された法的分野の大きなモデルです。 Fudan Universityのデータインテリジェンスおよびソーシャルコンピューティング研究所（Fudan-Disc）によって開発され、オープンソースがあり、Disc-LawLLM-13BモデルやDisc-Law-SFTデータセットが含まれます。

• lawgpt_zh（xiefeng）

  • このプロジェクトのオープンソースの中国法の一般的なモデルは、ChatGlm-6B LORA 16ビット命令の微調整によって取得されます。データセットには、既存の法的Q＆Aデータセットと、法律と実際のケースに導かれた自己インストラクションに基づいて構築された高品質の法的テキストQ＆Aが含まれ、法的分野での共通言語の大きなモデルのパフォーマンスを改善し、モデルの答えの信頼性とプロフェッショナリズムを改善します。

• lawgpt

  • 一般的な中国の台座モデル（中国ラマ、チャットグリマなど）に基づいて、この一連のモデルは、法的分野の独自の語彙リストと中国の法的コーパスの大規模な事前訓練を拡張し、法的分野の大きなモデルの基本的な意味的理解を高めます。これに基づいて、法的分野の対話Q＆Aデータセットと中国の司法試験データセットが構築され、指示を微調整し、モデルの法的コンテンツの理解と執行能力が向上しました。

• lexilaw

  • Lexilawは、ChatGlm-6Bアーキテクチャに基づいた微調整された中国の法的モデルであり、法的分野のデータセットでそれを微調整することにより、法的アドバイスとサポートを提供する際に、より高いパフォーマンスとプロフェッショナリズムを提供できるようにします。このモデルは、法務実務家、学生、普通のユーザーに正確で信頼できる法的諮問サービスを提供するように設計されています。特定の法的問題、または法的条件、症例分析、規制の解釈に関する問い合わせを参照する必要があるかどうかにかかわらず、Lexilawは有用なアドバイスとガイダンスを提供できます。

• 弁護士ラマ[論文]

  • プロジェクトのオープンソース指令は、法的分野での微調整データとラマトレーニングに基づいた中国の法的モックアップ弁護士ラマ。弁護士ラマは、中国の法的知識制度を体系的に学習できるようにするために、大規模な法的コーパスで最初に事前に訓練されました。これに基づいて、CHATGPTを使用して、中国の国家統一法的専門資格試験と法的相談に対する回答の客観的な質問の分析のバッチを収集し、収集されたデータを使用してモデルを微調整して、モデルが特定のシナリオに法的知識を適用する能力を獲得できるようにしました。

• ハンフェイ（漢fei）

  • Hanfei-1.0（Han Fei）は、中国で最初のフルパラメータートレーニング法律モデルです。パラメーター量は7bです。その主な機能には、法的なQ＆A、複数のダイアログ、記事の執筆、検索などが含まれます。

• チャットロー[紙]

  • 北京大学が開放する一連の法的モデルは、法的ニュース、法的フォーラム、法律、法律の解釈、法的協議、法的診察の質問、判断文書など、jiang ziya-13bおよびanima-33bが訓練したchatlaw-13bやchatlaw-33bなど、多数のオリジナルテキストを使用しています。さらに、ChatLaw-Text2Vecもオープンソースであり、類似性マッチングモデルがBERTに基づいてトレーニングされています。これは、ユーザーの質問情報と対応する法律と一致させることができます。

• ライチ（lu zhi）

  • 中国の司法フィールドビッグモデルの法律-GLM-10Bは、GLM-10Bモデルに基づいてオープンソースであり、30GBの中国の法的データで微調整された指示が得られます。

• WisdomInterrogatory（Zhihai-Luwen）

  • Zhijiang University、Alibaba Damo Academy、China Academy of Computingが共同で設計および開発した法的モデルは、Baichuan-7Bに基づいており、法的データの二次的なトレーニングと微調整が実施され、知識が強化された推論プロセスが設計されました。

• jurislms

  • このプロジェクトは、中国の法的コーパスに基づいた一連の言語モデルを訓練します。1）解釈可能な法的判断予測モデルAI裁判官は、法的コーパスのGPT2によってさらに事前に訓練され、法的申請モデル（BERTに基づく分類器）によって微調整されています。それは判断の結果を与えるだけでなく、対応する裁判所の見解を与えることもできます。 2）インテリジェントな法的協議モデルAI弁護士は、積極的な学習を使用して少量のデータでそれを微調整し、ユーザー相談に基づいて質問に答えることができます。

• マスターミンチャ

  • Mingcha司法モデルは、Shandong University、Inspur Cloud、および中国政治学法学大学が共同で開発した中国の司法モデルです。これは、多数の中国の教師なし司法コーパス（さまざまな判断文書、法律、規制などを含む）および監督された司法の微調整データ（法的質問と回答、ケース検索を含む）に基づいています。このモデルは、法的検索、症例分析、三段論法の推論と判断、および司法対話をサポートし、ユーザーに包括的かつ正確な法的相談と応答サービスを提供することを目指しています。

？ファイナンス

• Tongyi-Finance-14b

  • Tongyi Finance-14B（Tongyi-Finance-14B）は、金融業界向けに開始された大規模な言語モデルです。これは、産業コーパスの増分学習を実施するためのTongyi Qianwenの基本モデルに基づいており、金融分野で知識とシナリオを適用する能力を強化し、財務知識の質問と回答、テキスト分類、テキストの抽出、テキスト作成、読解力、論理的推論、マルチモーダル、コードなどの能力象限をカバーします。

• disc-finllm [紙]

  • disc-finllmは、金融分野の大規模な言語モデルです。これは、財務コンサルティング、金融テキスト分析、金融コンピューティング、および金融知識の取得Q＆Aの4つのモジュールで構成されるマルチエクササイズスマートファイナンシャルシステムです。これらのモジュールは、金融NLPタスク、人間のテストの質問、データ分析、現在の問題分析など、4つの評価において明らかな利点を示しており、disc-finllmが幅広い金融分野に強力なサポートを提供できることを証明しています。

• Investlm [Paper]

  • このプロジェクトは、Llama-65Bの微調整に基づいた英語の金融モデルを調達しました。

• finglm

  • 私たちは、オープンで公的な福祉と永続的な金融モデルプロジェクトを構築し、オープンソースとオープン性を使用して「AI+Financial」を促進することを約束しています。

• ウィーバーバード（ウィーバーバード）[紙]

  • プロジェクトのオープンソースは、中国と英語のバイリンガル金融フィールドコーパスの微調整に基づいた金融分野での対話の大きなモデルであり、地元の知識ベースやオンライン検索エンジンにもアクセスできます。

• bbt-fincuge-applications [Paper]

  • このプロジェクトは、中国の金融フィールドコーパスBBT-Fincorpus、知識強化されたビッグモデルBBT-FINT5、および評価ベンチマークCFLEBを調達しました。

• コルヌコピア（コルヌコピアの角）

  • このプロジェクトは、公共および中国の金融分野のQ＆Aデータに基づいて命令データセットを構築し、これに基づいて、ラマシステムモデルの指示を微調整して、金融分野でのラマの質問回答効果を改善します。

• xuanyuan（xuanyuan）[紙]

  • Xuanyuanは、中国に10億レベルの中国の対話モデルを備えた最初のオープンソースの中国の対話モデルであり、中国の金融分野に最適化された最初のオープンソースの中国のダイアログモデルでもあります。 Bloom-176bに基づいて、Xuanyuanは、中国の一般分野と金融分野のターゲットを絞ったトレーニングと微調整を実施しました。一般的な分野の問題に対処するだけでなく、さまざまな財務関連の質問にも回答し、ユーザーに正確で包括的な財務情報と提案を提供します。

• pixiu（pixiu）[紙]

  • プロジェクトの財務フィールド命令のオープンソース微調整データセットフィット、大型モデルFINMA、評価ベンチマークフレア。

• fingpt [Paper1] [Paper2]

  • このプロジェクトは、CHATGLM2-6B+LORAおよびLLAMA2-7B+LORAを含むいくつかの財務モデルを調達し、財務ニュース、ソーシャルメディア、財務レポートなどを含む中国語および英語のトレーニングデータを収集しました。

• フラン[紙]

  • プロジェクトオープンは、財務モデルのフランと評価ベンチマークの煙道を調達しました。

？教育する

• タオリ（タオリ）

  • このプロジェクトは、国際中国の教育分野に適した大規模なモデルのソースを開きます。 500を超える国際的な中国の教育の教科書と教科書、中国の習熟度テストの質問、中国の学習者辞書などに基づいて、現在国際中国教育分野で流通している国際中国教育リソースライブラリが構築されています。合計88,000の高品質の国際的な中国教育の質問と回答データセットがさまざまな形式の指示を通じて構築され、収集されたデータが指示を微調整して、モデルが特定のシナリオに国際的な中国教育知識を適用する能力を獲得できるようにしました。

• educhat [紙]

  • このプロジェクトは、教育分野の対話モデルのソースを開き、主に訓練を受けたモデルに基づいた教育対話モデルに関連するテクノロジーを研究し、さまざまな教育垂直フィールドデータを統合し、指導の微調整や価値の調整などの方法で補足され、自動化された質問の補正、在宅勤務の補助、副検査の順に宿題を提供するなどの豊富な機能を提供する、宿題の補助、宿泊施設の補助、宿泊施設の継続的な調達、コースの継続的な補助、コースでの宿泊施設の順応、コースでのコンスウィングの順になります。教師、学生、保護者、そして適性、公正、公正、そして暖かいことに従う知的な教育を実現するのを支援します。

➕その他

• DevOps-Model

  • プロジェクトオープンソースDevOps-Modelは、ANT Group and Peking Universityが開発したDevOpsフィールドモデルです。

• フクロウ[紙]

  • プロジェクトオープンソースは、Cloud Intelligent Intelligence Research InstituteとBeihang Universityが共同で開発したインテリジェントオペレーションおよびメンテナンス（AIOPS）の大規模な言語モデルであり、収集されたフクロウインストラクションデータについて訓練されています。さらに、インテリジェントな操作とメンテナンスの分野にある大きな言語モデルであるベンチマークがないため、フクロウベンチの評価ベンチマークが確立されています。

• Marinegpt [紙]

  • このプロジェクトオープンは、マリンフィールド専用に設計された最初の視覚言語モデルであるMarineGPTを調達しました。

• OceanGpt [紙]

  • このプロジェクトオープンソースOceangpt、海洋学のための大きなモデル。

• Agrigpt

  • このプロジェクトは、農業のモックアップメディアグプトを調達しました。

• mediagpt

  • プロジェクトオープンは、中国のセルフメディアのビッグモデルのメディアグプトを調達しました。最初に、セルフメディアの知識システムを体系的に学習するために、大規模なセルフメディアコーパスで継続的な事前トレーニングを実施します。次に、ChatGptの助けを借りて、Douyin操作、短いビデオ作成、膨大な量のQianchuan展開、ライブブロードキャスト操作、ライブブロードキャストのスピーチスキルなどの分野での知識の問題に関する分析と回答のバッチを使用して、モデルを使用してモデルを微調整して、自己メディアの知識を実際のシナリオに適用する方法を学習しました。

• ecomgpt [紙]

  • プロジェクトオープンは、eコマースフィールドでのBloomzの指導微調整データセットエコシロクトに基づいたeコマースビッグモデルEcomgptを調達し、12のeコマース評価データセットの手動評価はChatGPTを超えました。

• スターウィスパー（星）

  • 天文学的なビッグモデルStarGlmの開発経験に基づいて、天文学教育アライアンス、Jisipu文学プラットフォーム、およびSitian Engineeringのサポートにより、さらにStarWhisperシリーズモデル（6b、7b、13b、14b、20bを含む）をトレーニングしました。天文学における大規模なモデルの一般的な知識の幻覚現象をさらに緩和するために、天文学的なマルチモーダルタスクを処理し、望遠鏡アレイに展開できるシシアン脳の基礎を築きます。

• K2 [紙]

  • プロジェクトオープンソースThe Earth Science Mockup K2は、Llamaに基づいた地球科学の文献とウィキペディアデータを使用して事前に訓練され、ジオシグナルデータセットを使用して命令を微調整します。

• transgpt（zhiyuan）

  • このプロジェクトオープンは、主に実際の輸送業界の実際の価値を活用することに取り組んでいる輸送モデルTransgpt（Zhiyuan）を調達しました。交通状況の予測、インテリジェントコンサルティングアシスタント、公共交通機関サービス、交通計画と設計、交通安全教育、支援管理、交通事故の報告と分析、自律運転支援システムおよびその他の機能を実現できます。一般的な常識輸送モデルとして、TransGPTは、道路工学、橋工学、トンネル工学、道路輸送、水輸送、都市の公共交通機関、輸送経済、輸送安全などの産業に常識を提供できます。これに基づいて、特定の交通アプリケーションシナリオに焦点を当てることができます。

• secgpt

  • このプロジェクトは、ネットワークセキュリティの大手モデルsecgptを調達しました。このモデルは、Baichuan-13Bに基づいたトレーニング前およびSFTトレーニングにLORAを使用し、またオープンソースの関連するプリトレーニングおよび命令の微調整データセットも使用します。

• AutoAudit

  • プロジェクトオープンは、セキュリティ監査とネットワーク防衛のための強力な自然言語処理能力を提供することを目標に、サイバーセキュリティのモックアップオートオーディットを調達しました。悪意のあるコードの分析、サイバー攻撃の検出、セキュリティの脆弱性の予測、セキュリティの専門家に強力なサポートを提供する機能があります。

• Techgpt

  • プロジェクトのオープンソーステクノロジーモデルTechGPTは、コンピューターサイエンス、材料、機械、冶金、金融、航空宇宙などの10を超える垂直プロフェッショナルフィールドを対象としており、フィールド用語抽出、名前付きエンティティ認識、関係トリプルエクストレーション、テキストキーワード生成、テキスト生成タイトル、コンテキストの概念、コンテキストの概念、コンテキストの概念、コンテキストの概要、テキストの認識、テキストの認識、テキストの認識、テキストの認識、テキストの認識、テキストの認識などのさまざまな自然言語の理解と生成能力をカバーしています。提案の相談の質問と回答、コピーライティングの生成、中国語と英語の翻訳、シンプルなコード生成など。

• モジ（モジ）[紙]

  • このプロジェクトオープンは、科学的な紙のモックアップモジ（Mozi）を調達しました。これは、科学的技術文献の疑問と感情のサポートに使用できます。

• OpenBiomed [Paper1] [Paper2] [Paper3]

  • このプロジェクトは、マルチモーダル生物医学モデルBiomedgpt、マルチモーダル小分子基本モデルDRUGFMおよびMOLFM、細胞表現学習モデルCelllmなどを含むいくつかのマルチモーダル生物医学モデルを調達しました。

• yayi（yayi）

  • このプロジェクトは、数百万人の人為的に構築された高品質のフィールドデータについて微調整された微調整されたマルチフィールドモデルYayi（Yayi）を調達しました。トレーニングデータは、メディアの宣伝、世論分析、公共安全、金融リスク管理、都市ガバナンス、および数百の自然言語コマンドタスクなどの5つの主要な分野をカバーしています。

データセット

？評価ベンチマーク

• c-val [紙]

  • C-Evalは、上海Jiaotong大学がリリースした中国の基本モデル評価ベンチマークです。 13,948の多肢選択式の質問が含まれており、人文科学、社会科学、科学と工学、およびその他の専攻、52人の主題、中学校から大学の大学院生、職業試験の4つの主要な方向性をカバーしています。

• Agieval [紙]

  • Agievalは、Microsoftがリリースした評価ベンチマークで、人間の認知タスクにおける大規模なモデルのパフォーマンスを評価します。これには、通常の大学入学試験（中国の大学入学試験と米国SAT試験）、ロースクールの入学試験、数学の競争とバーの資格試験、国家公務員試験などを含む、通常の候補者のための20の公式、オープン、高標準の入場および資格試験が含まれます。

• Xiezhi（Xiezhi）[紙]

  • Xiezhiは、哲学、経済学、法律、教育、文学、自然科学、工学、農業、医学、軍事、管理、および芸術、516特定の分野、および249,587の質問など、13の分野を含む、Fudan大学がリリースした包括的で学際的で自動的に更新されたフィールドナレッジ評価ベンチマークです。

• cmmlu [紙]

  • CMMLUは、中国の文脈における言語モデルの知識と推論能力を評価するために特に使用される包括的な中国の評価ベンチマークです。 CMMLUは、基本的な分野から高度な専門レベルまで、67のトピックをカバーしています。それに含まれる：計算と推論を必要とする自然科学、知識を必要とする人文科学と社会科学、および人生の常識を必要とする中国の運転規則。さらに、CMMLUの多くのタスクには中国固有の答えがあり、他の地域や言語で普遍的に適用できない場合があります。したがって、それは完全に中国のテストベンチマークです。

• MMCU [paper]

  • MMCU是一个综合性的中文评测基准，包括来自医学、法律、心理学和教育等四大领域的测试。

• CG-Eval [paper]

  • CG-Eval是一个由甲骨易AI研究院与LanguageX AI Lab联合发布的针对中文大模型生成能力的评测基准。包含了科技与工程、人文与社会科学、数学计算、医师资格考试、司法考试、注册会计师考试等六个大科目类别下的55个子科目的11000道不同类型问题。CG-Eval包含一套复合的打分系统：对于非计算题，每一道名词解释题和简答题都有标准参考答案，采用多个标准打分然后加权求和；对于计算题目，会提取最终计算结果和解题过程，然后综合打分。

• CBLUE [paper]

  • CBLUE是一个中文医学语言理解评测基准，包含8个中文医疗语言理解任务。

• PromptCBLUE [paper]

  • PromptCBLUE是一个面向中文医疗场景的评测基准，通过对CBLUE基准进行二次开发，将16种不同的医疗场景NLP任务全部转化为基于提示的语言生成任务。

• LAiW [paper]

  • LAiW 是一个中文法律大模型评测基准，针对3大能力设计13个基础任务：1）法律NLP 基础能力：评测法律基础任务、 NLP 基础任务和法律信息抽取的能力，包括法条推送、要素识别、命名实体识别、司法要点摘要和案件识别5 个基础任务；2）法律基础应用能力：评测大模型对法律领域知识的基础应用能力，包括争议焦点挖掘、类案匹配、刑事裁判预测、民事裁判预测和法律问答5 个基础任务；3）法律复杂应用能力：评测大模型对法律领域知识的复杂应用能力，包括司法说理生成、案情理解和法律咨询3 个基础任务。

• LawBench [paper]

  • LawBench 是一个面向中国法律体系的法律评测基准。LawBench 模拟了司法认知的三个维度，并选择了20个任务来评估大模型的能力。与一些仅有多项选择题的现有基准相比，LawBench 包含了更多与现实世界应用密切相关的任务类型，如法律实体识别、阅读理解、犯罪金额计算和咨询等。

• LegalBench [paper]

  • LegalBench 是一个面向美国法律体系的法律评测基准，包含162个法律推理任务。

• LEXTREME [paper]

  • LEXTREME是一个多语言的法律评测基准，包含了24种语言11个评测数据集。

• LexGLUE [paper]

  • LexGLUE是一个英文法律评测基准。

• CFBenchmark [paper]

  • CFBenchmark是一个旨在评估大语言模型在中文金融场景下辅助工作的评测基准。CFBenchmark的基础版本包括3917个金融文本涵盖三个方面和八个任务，从金融识别、金融分类、金融生成三个方面进行组织。

• FinanceBench [paper]

  • FinanceBench是一个用于评估开放式金融问题问答的评测基准，包含10,231 个有关上市公司的问题，以及相应的答案。

• FinEval [paper]

  • FinEval是一个金融知识评测基准，包含了4,661个高质量的多项选择题，涵盖金融、经济、会计和证书等领域，34个不同的学术科目。

• FLARE [paper]

  • FLARE是一个金融评测基准，包含了金融知识理解和预测等任务。

• CFLEB [paper]

  • CFLEB是一个中文金融评测基准，包含两项语言生成任务和四项语言理解任务。

• FLUE [paper]

  • FLUE是一个金融评测基准，包含5个金融领域数据集。

• GeoGLUE [paper]

  • GeoGLUE是一个由阿里巴巴达摩院与高德联合发布的地理语义理解能力评测基准，旨在推动地理相关文本处理技术和社区的发展。本榜单提炼了其中多个典型场景：地图搜索、电商物流、政府登记、金融交通，并设计了六个核心任务：门址地址要素解析、地理实体对齐、Query-POI库召回、Query-POI相关性排序、地址Query成分分析、WhereWhat切分。

• OWL-Bench [paper]

  • OWL-Bench 是一个面向运维领域的双语评测基准。它包含317 个问答题和1000 个多选题，涵盖了该领域的众多现实工业场景，包括信息安全、应用、系统架构、软件架构、中间件、网络、操作系统、基础设施和数据库这九个不同的子领域。以确保OWL-Bench 能够展现出多样性。

• DevOps-Eval

  • DevOps-Eval是由蚂蚁集团联合北京大学发布的面向DevOps领域的大语言模型评测基准。

？付録

点赞历史

？フレンドリーなリンク

• Awesome Code LLM
  • 该项目收集了代码大模型相关论文，并整理出一篇综述。
• CodeFuse-ChatBot
  • CodeFuse-ChatBot是由蚂蚁CodeFuse团队开发的开源AI智能助手，致力于简化和优化软件开发生命周期中的各个环节。
• Awesome AIGC Tutorials
  • 该项目收集了关于AIGC的各种精选教程和资源，既适合初学者也适合进阶AI爱好者。
• Awesome Tool Learning
  • 该项目收集了关于工具学习的资源，包括论文、框架和应用。
• Awesome LLM reasoning
  • 该项目收集了关于大语言模型推理方面的资源，包括论文、数据集等。