Medical_nlp
医療NLPドメインの評価/競争、データセット、紙、事前に訓練されたモデルリソースの概要。
医療NLPの評価/競争、データセット、論文、事前に訓練されたモデルの概要。
ニュース
- ？ 2024/11/14は、
4. VLM数据集、 5.3 医疗VLM 、 5.4 医疗VLM Benchmark追加しました。将来的には、医療VLMメンテナンスの方向に関連する関連リソースを維持することに焦点が当てられます。レポはRongsheng Wangによって維持されます。 - ？ 2024/11/14以前、クリス・リーは2021年に医療NLPフィールドを去ったため、このレポはXidong Wang、Ziyue Lin、Jing Tangによって維持されています。
コンテンツ
- 1。評価
- 1.1中国の医療ベンチマーク評価：CMB / CMEXAM / PROMPTCBLUE
- 1.2英語の医療ベンチマーク評価：
- 2。競争
- 3。LLMデータセット
- 4。VLMデータセット
- 5。オープンソースの事前訓練モデル
- 5.1医療PLM
- 5.2 Medical LLM
- 5.3医療VLM
- 5.4医療VLMベンチマーク
- 6。関連論文
- 6.1 chatgpt時代に役立つかもしれない論文
- 6.2概要記事
- 6.3タスク固有の記事
- 6.4会議指数
- 7.オープンソースツールキット
- 8。産業用製品ソリューション
- 9。ブログ共有
- 10。フレンドリーなリンク
1。評価
1.1中国の医療ベンチマーク評価：CMB / CMEXAM / PROMPTCBLUE
CMB
- アドレス：https：//github.com/freedomintelligence/cmb
- 出典：すべての段階でのさまざまな臨床医療作業の試験。臨床複合症例に関する相談
cmexam
- アドレス：https：//github.com/williamliujl/cmexam
- 出典：前年の質問の実践医師資格試験
PROMPTCBLUE
- アドレス：https：//github.com/michael-wzhu/promptcblue
- 出典：CBLUE
PROMPTCBLUE
- アドレス：https：//github.com/cbluebenchmark/cblue
- 出典：以前のアカデミック評価コンペティションのデータセットとAli Quark Medical Search Business以前のアカデミックレビュー
メドベンチ
- アドレス：https：//arxiv.org/abs/2312.12806
- 出典：すべての専門分野をカバーする医学検査とレポートからの40,041の質問が含まれています。
1.2英語の医療ベンチマーク評価：
マルチメドベンチ
- はじめに：Googleに由来する大規模なマルチモーダル生成モデルです
topに戻ります
2。競争
2.1継続的な試合
医療検索クエリ相関判断
- アドレス：https：//tianchi.aliyun.com/competition/entrance/532001/introduction
- 出典：Alibaba Tianchi
2.2終了したゲーム
2.2.1英語競争
2.2.2中国の競争
イメージングNLP - 医療画像診断レポートの生成
- 住所：https：//gaiic.caai.cn/ai2023/
- 出典：2023グローバルな人工知能技術イノベーションコンペティショントラック1
標準化されていない疾患要件のための単純なトリアージチャレンジ2.0
- アドレス：http：//challenge.xfyun.cn/topic/info?type=disease-claims-2022＆ch = ds22-dw-sq03
- 出典：Iflytek
第8回中国健康情報処理会議の評価タスク（CHIP2022）
- アドレス：http：//cips-chip.org.cn/
- 出典：Chip2022
iflytek-medicalエンティティと関係識別チャレンジ
- アドレス：http：//www.fudan-disc.com/sharedtask/imcs21/index.html
- 出典：Iflytek
「肝臓」は柔らかく柔らかく、大きなモデルは、肝臓病の医師と患者のためのインタラクティブサービスの新しいパターンを作成します。
- アドレス：http：//www.fudan-disc.com/sharedtask/imcs21/index.html
- 出典：Digital China Construction Summit組織委員会
topに戻ります
3。LLMデータセット
3.1中国語
3.2英語
医療
- アドレス：https：//github.com/chanzuckerberg/medmentions
- はじめに：PubMed Abstractに基づいた生物医学エンティティリンクデータセット
webmedqa
- アドレス：https：//github.com/hejunqing/webmedqa
- はじめに：医療Q＆A
コメタ
- 住所：https：//www.siphs.org/
- はじめに：医療エンティティはソーシャルメディアのデータをリンクします。 EMNLP2020で公開
PubMedqa
- アドレス：https：//arxiv.org/abs/1909.06146
- はじめに：PubMed Extractに基づく医療Q＆Aデータセット
Mediqa
- アドレス：https：//sites.google.com/view/mediqa2021
- はじめに：テキストの概要
ChatDoctor Dataset-1
- アドレス：https：//drive.google.com/file/d/1lyfqiwllsclhgrcutwuee_iacnq6xnut/view？usp = sharing
- はじめに：Healthcaremagic.comの患者と医師の間の100,000の実際の会話
ChatDoctor Dataset-2
- アドレス：https：//drive.google.com/file/d/1zkbqgyqwc7djhs3n9tqyqvpddqmzacla/view？usp = sharing
- はじめに：icliniq.comの患者と医師の間の10kの実際の会話
バイオインストルトラック
- アドレス：https：//github.com/bio-nlp/bioinstruct
- はじめに：Q＆A（QA）、情報抽出（IE）、およびテキスト生成を含むがこれらに限定されない生物医学タスクに合わせた25,000を超える指示
視覚的なMED-ALPACAデータ
- アドレス：https：//github.com/cambridgeltl/visual-med-alpaca/tree/main/data
- はじめに：Bigbio、Roco、GPT-3.5-Turboから派生した視覚Med-Alpacaトレーニングのデータ
Chexpert Plus
- アドレス：https：//github.com/stanford-aimi/chetrit-plus
- はじめに：放射線科の分野で公開されている最大のテキストデータセット。合計3,600万のテキストトークン、すべてDICOM形式の高品質の画像、および多数の画像と患者メタデータが幅広い臨床グループおよび社会的グループ、および多くの病理学的タグとラドグラフの注釈をカバーする患者メタデータを装備しています。
topに戻ります
4。VLMデータセット
| データセット | 紙 | github | キーワード |
|---|
| Medtrinity-25m | リンク | リンク | 25 million images 、 10 modalities 、 65 diseases 、 VQA 、 EN |
| llava-med | リンク | リンク | 630k images 、 VQA 、 EN |
| 中国のラバメッド | - | リンク | 60k images 、 VQA 、 ZH |
| huatuogpt-vision | リンク | リンク | 647k images 、 VQA 、 EN |
| Medvidqa | リンク | リンク | 7k videos 、 VQA 、 EN |
| chimed-vl | リンク | リンク | 1M images 、 VQA 、 EN 、 ZH |
| radfm | リンク | リンク | 16M images 、 5000 diseases 、 VQA 、 EN 、 2D/3D |
| BiomedParsedata | リンク | リンク | 6.8 million image-mask-description 、 45 biomedical image segmentation datasets 、 9 modalities 、 EN 、 2D |
| omnimedvqa | リンク | リンク | 118,010 images 、 12 modalities 、 2D 、 20 human anatomical regions |
| PRECT | リンク | リンク | 160K volumes 、 42M slices 、 3D 、 CT |
| GMAI-VL-5.5M | リンク | リンク | 5.5m image and text 、 219 specialized medical imaging datasets 、 2D 、 VQA |
| SA-MED2D-20M | リンク | リンク | 460万の2D医療画像と1970万EN対応するマスク、 2D 、 4.6 million 2D medical images and 19.7 million corresponding masks |
| IMISベンチ | リンク | リンク | 6.4 million images, 273.4 million masks (56 masks per image), 14 imaging modalities, and 204 segmentation targets 、 EN |
topに戻ります
5。オープンソースの事前訓練モデル
5.1医療PLM
Biobert：
- アドレス：https：//github.com/naver/biobert-prethed
- はじめに：Biobertは、生物医学の分野の言語表現モデルであり、生物医学名のエンティティ認識、関係抽出、質問、回答などの生物医学テキストマイニングタスクに特別に使用されています。
ブルーバート：
- アドレス：https：//github.com/ncbi-nlp/blue_benchmark
- はじめに：青いベンチマークには、5つの異なる生物医学テキストマイニングタスクと10匹のコーパスが含まれています。青いベンチマークは、既存のデータセットに依存しています。なぜなら、それらはBionLPコミュニティによって共有タスクとして広く使用されているためです。これらのタスクは、さまざまなテキストタイプ（生物医学の文献と臨床メモ）、データセットのサイズと難易度をカバーし、さらに重要なことに、一般的な生物医学テキストマイニングの課題を強調しています。
Bioflair：
- アドレス：https：//github.com/flairnlp/flair
- 簡単な紹介：Flairは、名前付きエンティティ認識（NER）、センチメント分析、スピーチ分析（POS）、生物医学データの特別なサポート、セマンティック分解および分類などのテキストに最先端の自然言語処理（NLP）モデルを適用できる強力なNLPライブラリです。 Flairは、Pytorchに基づいた自然言語処理フレームワークであるテキスト埋め込みライブラリでもあります。
Covid-Twitter-Bert：
- 住所：https：//github.com/digitalepidemiologylab/covid-twitter-bert
- はじめに：Covid-Twitter-Bert（略してCT-Bert）は、Covid-19トピックに関する多数のTwitterメッセージで事前に訓練された変圧器ベースのモデルです。 V2モデルは、9700万のツイート（12億のトレーニングサンプル）でトレーニングされました。
Bio-LM（生物医学および臨床言語モデル）
- アドレス：https：//github.com/facebookresearch/bio-lm
- はじめに：この作業では、生物医学および臨床の自然言語処理タスクの多くのモデルを評価し、パフォーマンスを向上させるいくつかの新しいモデルを訓練します。
Bioalbert
- アドレス：https：//github.com/usmaann/bioalbert
- はじめに：これは、生物医学のテキストマイニングタスク向けに設計された大規模なドメイン固有の（生物医学）コーパス向けに訓練された生物医学言語表現モデルです。
5.2 Medical LLM
5.2.1多言語医療モデル
アポロモエ：
- アドレス：https：//github.com/freedomintelligence/apollomoe
- はじめに：言語家族の専門家の混合を通じて50の言語医薬品のLLMを効果的に民主化する
アポロ：
- アドレス：https：//github.com/freedomintelligence/apollo
- はじめに：軽量の多言語医学LLM、60億人に医療人工知能を普及させる
mmedlm：
- アドレス：https：//github.com/magic-ai4med/mmedlm
- はじめに：最初のオープンソース多言語医療言語モデル
5.2.2中国の医療大手言語モデル
- ベンツァオ：
- 住所：https：//github.com/scir-hi/huatuo-llama-med-chinese
- はじめに：BenthaoはLlama-7Bに基づいており、中国の医療指示/指示の微調整を通じて得られます。研究者は、医学知識グラフとGPT3.5 APIを通じて中国の医療指導データセットを構築し、これに基づいて微調整されたLlamaの指示を行い、医療分野でのLlamaのQ＆A効果を改善しました。
- ビアンケ：
- アドレス：https：//github.com/scutcyr/bianque
- はじめに：指示と複数の照会対話によって微調整された医療対話モデル。 Clueai/Chatyuan-Large-V2をベースとして使用すると、中国の医療的な質問と回答の指示と、微調整のための複数のラウンドの問い合わせ対話の混合データセットを使用します。
- soulchat：
- アドレス：https：//github.com/scutcyr/soulchat
- はじめに：Lingxinは、ChatGlm-6Bを初期化モデルとして使用し、モデルの共感能力を向上させるために、心理カウンセリングの分野で中国の長いテキストの指示を微調整して、共感の対話データの複数のラウンドを使用し、ユーザーの話し合いをガイドし、合理的な提案を提供します。
- Doctorglm：
- アドレス：https：//github.com/xionghonglin/doctorglm
- はじめに：ChatGlm-6Bに基づく中国の相談モデル。このモデルは、中国の医療対話データセットを通じて微調整されており、LORA、P-Tuningv2などを含む微調整と展開を実現します。
- huatuogpt：
- アドレス：https：//github.com/freedomintelligence/huatuogpt
- はじめに：Hua Tuo GPTは、中国の医療指導によって得られるGPTのようなモデルです。このモデルは、医療相談のために特別に設計された中国のLLMです。そのトレーニングデータには、ChatGPTから蒸留されたデータと医師からの実際のデータが含まれています。 RLHFからのフィードバックは、トレーニングプロセス中に追加されます。
- huatuogpt-ii：
- アドレス：https：//github.com/freedomintelligence/huatuogpt-ii
- はじめに：Hua Tuo GPT2は、革新的なフィールド適応方法を採用し、医学的知識と対話能力を大幅に改善しています。複数の医療ベンチマークで一流のパフォーマンスを示しています。特に、専門家の評価と新しい医療実践資格試験でGPT-4を上回っています。
5.2.3英語の医療言語モデル
- ゲータートロン：
- アドレス：https：//github.com/uf-hobi-informatics-lab/gatortron
- はじめに：非構造化された電子ヘルスケースを使用するシステムが、数十億のパラメーターを備えた医療モックアップの恩恵を受ける方法に専念するヘルスケア分野の初期のモックアップモデル。
- Codex-Med：
- アドレス：https：//github.com/vlievin/medical-rasoning
- はじめに：GPT-3.5モデルの回答能力と実際の医学的問題の理由に専念しています。医療テストデータセットUSMLEおよびMEDMCQA、および医療読解データセットPubMedQA。
- Galactica：
- アドレス：https：//galactica.org/
- はじめに：Galacticaは、科学分野の情報過剰を解決することに取り組んでおり、医療および健康分野などの科学的知識を店舗と組み込みます。 Galacticaは、さまざまな分野での研究間の潜在的な関係を発見しようとするために、論文と言及の大きなコーパスで訓練されています。
- deid-gpt：
- アドレス：https：//github.com/yhydhx/chatgpt-api
- はじめに：識別情報を自動的に識別および削除できる革新的なGPT4対応の脱同意フレームワーク。
- ChatDoctor：
- アドレス：https：//github.com/kent0n-li/chatdoctor
- はじめに：医療分野の基本的な知識を使用して、Llamaに基づいて微調整することによって得られた医療対話モデル。
- メダルパカ：
- アドレス：https：//github.com/kbreakm/medalpaca
- はじめに：Medalpacaは、ヘルスケアシステムのプライバシー問題の解決に専念するオープンソース戦略を採用しています。このモデルは、70億と130億のパラメーターでLlama上に構築されています。
- PMC-llama：
- アドレス：https：//github.com/chaoyi-wu/pmc-llama
- はじめに：PMC-llamaは、医療分野での能力を高めるために合計480万人の生物医学的学術論文でLlama-7Bを調節することにより、医療知識をさらに植え付けるオープンソース言語モデルです。
- ビジュアルメドアルパカ：
- アドレス：https：//github.com/cambridgeltl/visual-med-alpaca
- はじめに：Visual Med-Alpacaは、マルチモーダル生物医学タスクの医学の「ビジョン専門家」と統合できるオープンソースのパラメーター効率の高い生物医学的基本モデルです。このモデルは、LLAMA-7Bアーキテクチャ上に構築されており、GPT-3.5-Turboおよび人間の専門家によってキュレーションされた指導セットを使用して訓練されています。
- GatorTrongpt：
- アドレス：https：//github.com/uf-hobi-informatics-lab/gatortrongpt
- はじめに：GatorTrongptは医学的な生成大規模な言語モデルです。このモデルはGPT-3上に構築されており、50億または200億のパラメーターが含まれています。このモデルは、2,770億語を含む臨床および英語のテキストの巨大なコーパスを使用しています。
- メダギ：
- アドレス：https：//github.com/joshuachou2018/medagi
- はじめに：例であるMedagiは、ドメイン固有の医療言語モデルを最低コストで統一し、一般的な医療人工知能を実装する可能性のある方法を提供します。
- llava-med：
- アドレス：https：//github.com/microsoft/llava-med
- はじめに：LLAVA-MEDは、初期化に一般的なドメインLLAVAを使用し、次にコース学習方法で継続的にトレーニングされます（最初は生物医学的概念のアライメントを使用し、その後包括的な命令調整が続きます）。
- Med-Flamingo：
- アドレス：https：//github.com/snap-stanford/med-flamingo
- はじめに：Med-Flamingoは、画像とテキストを含むインターレースされたマルチモーダルデータを処理するために特別に設計された視覚言語モデルです。フラミンゴに基づいて、Med-Flamingoは、さまざまな医療分野でさまざまなマルチモーダル知識源を事前に訓練することにより、これらの医療分野の能力をさらに強化します。
5.3医療VLM
| モデル | 紙 | github |
|---|
| Medvint | リンク | リンク |
| Med-Flamingo | リンク | リンク |
| llava-med | リンク | リンク |
| Qilin-Med-Vl | リンク | リンク |
| radfm | リンク | リンク |
| Meddr | リンク | リンク |
| huatuogpt-vision | リンク | リンク |
| Biomedgpt | リンク | リンク |
| Med-Moe | リンク | リンク |
| r-llava | リンク | - |
| MED-2E3 | リンク | - |
| GMAI-VL | リンク | リンク |
5.4医療VLMベンチマーク
| ベンチマーク | 紙 | github |
|---|
| gmai-mmbench | リンク | リンク |
| omnimedvqa | リンク | リンク |
| うーん | リンク | リンク |
| マルチメデヴァル | リンク | リンク |
| worldmedqa-v | リンク | - |
topに戻ります
6。関連論文
6.1 chatgpt時代に役立つかもしれない論文
大規模な言語モデルコーディング臨床知識ペーパーアドレス：https：//arxiv.org/abs/2212.13138
USMLEでのCHATGPTのパフォーマンス：大手言語モデルを使用したAIアシスト医学教育の可能性ペーパーアドレス：https：//journals.plos.org/digitalhealth/article?id=10.1371/journal.pdig.0000198
ChatGPTの医学的アドバイス用紙のテスト（チューリング）ペーパーアドレス：https：//arxiv.org/abs/2301.10035
ツールフォーマー：言語モデルは、ツールペーパーアドレスを使用して単独で教えることができます：https：//arxiv.org/abs/2302.04761
あなたの事実を確認してもう一度試してください：外部の知識と自動フィードバックを使用して、大規模な言語モデルの論文を改善してください：https：//arxiv.org/abs/2302.12813
医療上の課題に関するGPT-4機能論文住所：https：//arxiv.org/abs/2303.13375
6.2概要記事
- 生物医学の分野における事前に訓練された言語モデル：体系的な調査論文住所
- ヘルスケアディープラーニングガイドペーパーアドレス自然薬の紙の住所の概要
- ヘルスケアの分野における大きな言語モデルの紙の住所のレビュー
6.3タスク固有の記事
電子医療記録に関連する記事
- 電子ヘルス記録のペーパーアドレスのセクション予測については、医学文献から学習を転送する
- ムファサ：マルチモーダル融合アーキテクチャの電子ヘルスレコードの検索ペーパーアドレス
医療関係の抽出
- ニューラル医療関係の依存森林を活用する抽出ペーパーアドレス
医療知識グラフ
- 電子医療記録のペーパーアドレスから健康知識グラフを学ぶ
補助診断
- 芸術的知性を使用した小児疾患の評価と正確な診断
医療機関のリンク（標準化）
- トリプレットネットワークペーパーアドレスを使用してリンクする医療機関
- 生物医学的概念の正規化のためのセマンティックタイプの正規化を備えた生成とランクのフレームワークペーパーアドレス
- ユーザー生成テキストの医療概念の正常化のための深いニューラルモデルペーパーアドレス
6.4会議指数
ACL2020の医学分野における関連論文のリスト
- 生物医学的概念の正規化のためのセマンティックタイプの正規化を備えた生成とランクのフレームワークペーパーアドレス
- 同義語の疎外ペーパーアドレスを備えた生物医学的エンティティ表現
- ドキュメント翻訳vs.医療ドメインペーパーアドレスでの横断的情報検索のクエリ翻訳
- MIE：医療対話に向けて医療情報抽出器ペーパーアドレス
- Corpusレベルの統計論文住所からの医療関係予測の合理化
AAAI2020医療NLP関連のペーパーリスト
- 医学的質問回答の生成について、ペアの紙の住所
- ラテ：生物医学的エンティティの潜在型モデリングをリンクする紙の住所
- 医療テキストペーパーアドレスのための概念コンテキスト埋め込みを学習します
- 散らばったキーワードの注意と回答の監督の弱い監督を伴う医療会話を理解するペーパーアドレス
- エンティティをリンクし、言及レベルの監督用紙のアドレスなしで生物医学テキストから関係を抽出する
- 埋め込みは医療用語を適切に表すことができますか？新しい大規模な医療用語の類似性データセットには答えがあります！紙の住所
EMNLP2020医療NLP関連のペーパーリスト
- 構造知識と平易なテキストペーパーアドレスを使用した医療機械の読解力に向けて
- Meddialog：大規模な医療対話データセットペーパーアドレス
- Cometa：ソーシャルメディアペーパーアドレスにリンクする医療機関のコーパス
- シーケンス標識用紙アドレスとしての生物医学イベント抽出
- Feded：医療関係のためのアンサンブル蒸留によるフェデレーション学習抽出論文住所論文分析：Feded：医療関係の抽出のためのフェデレーション学習（融合蒸留に基づく）
- 病気の知識をバートに注入して健康の質問に答え、医学的推論、疾患名認識紙の住所
- 多重化のための知識主導の生成モデル中国の医療処置エンティティ正規化論文住所
- Biomegatron：より大きな生物医学ドメイン言語モデルペーパーアドレス
- 新聞の住所で医療請求のためにジャンル全体に照会する
topに戻ります
7.オープンソースツールキット
- ワードパーティションツール：PKUSEGプロジェクトアドレスプロジェクト説明：北京大学によって開始されたマルチドメイン中国語の単語分詞ツールは、医療分野の選択をサポートしています。
topに戻ります
8。産業用製品ソリューション
精神的な医学の知恵
左利きの医者
Yidu Cloud Research Institute-Medical Natural Language Processing
Baidu-医療テキスト構造
Alibaba Cloud-医療自然言語処理
topに戻ります
9。ブログ共有
- ALPACA：モデルに続く強力なオープンソース命令
- 医療分野の自然言語処理システムの構築から学んだ教訓
- ビッグデータの時代における医療公開データベースとデータマイニングテクノロジーの紹介
- ACL 2021から医療分野でのNLPの開発を見ると、リソースダウンロード
topに戻ります
10。フレンドリーなリンク
- Awesome_chinese_medical_nlp
- 中国のNLPデータセット検索
- 医療データ（大規模な医療関連データ）
- Tianchiデータセット（複数の医療NLPデータセットを含む）
topに戻ります
11。参照
@misc { medical_NLP_github ,
author = { Xidong Wang, Ziyue Lin and Jing Tang, Rongsheng Wang, Benyou Wang } ,
title = { Medical NLP } ,
year = { 2023 } ,
publisher = { GitHub } ,
journal = { GitHub repository } ,
howpublished = { url{https://github.com/FreedomIntelligence/Medical_NLP} }
}
