m3tl

M3TL

ultim modal m究極にask l収益

インストール

 pip install m3tl

それは何ですか

これは、マルチモーダルマルチタスク学習を行うためのベースモデルとして変圧器（ハギングフェイストランスに基づく）を使用するプロジェクトです。

なぜこれが必要なのですか

マルチタスク学習（MTL）は、特に深い学習時代において、ますます注目を集めています。 NLP、CV、推奨などで広く使用されています。ただし、MTLには通常、複雑なデータの前処理、タスク管理、およびタスクインタラクションが含まれます。 TencentnlpやPytextのような他のオープンソースプロジェクトは、MTLをサポートしますが、素朴な方法で、複雑なMTLアルゴリズムを実装するのは簡単ではありません。このプロジェクトでは、単一のタスク学習モデルと同じくらい簡単なMTLモデルを簡単に作成し、MTLをマルチモーダルマルチタスク学習にさらに拡張しようとします。そのために、MTL関連のプログラム可能なモジュールをユーザーに公開します。

• 問題のサンプリング戦略
• 損失の組み合わせ戦略
• 勾配手術
• ベースモデル後のモデル（トランス）

プログラム可能なモジュールとは別に、さまざまな内蔵SOTA MTLアルゴリズムも提供しています。

一言で言えば、このプロジェクトを以下に使用できます。

• 複雑なMTLアルゴリズムを実装します
• 詳細に飛び込むことなくSOTA MTLを実行します
• マルチモーダル学習を行います

また、トランスフォーマーをベースモデルとして使用するため、トランスから得られるすべての利点が得られます！

どのような問題がサポートされていますか？

 params = Params()
for problem_type in params.list_available_problem_types():
    print('`{problem_type}`: {desc}'.format(
        desc=params.problem_type_desc[problem_type], problem_type=problem_type))

 `cls`: Classification
`multi_cls`: Multi-Label Classification
`seq_tag`: Sequence Labeling
`masklm`: Masked Language Model
`pretrain`: NSP+MLM(Deprecated)
`regression`: Regression
`vector_fit`: Vector Fitting
`premask_mlm`: Pre-masked Masked Language Model
`contrastive_learning`: Contrastive Learning

始めましょう

チュートリアルをご覧ください。