spacy transformers

スペイシー変換器：SPACYでBert、XLNet、GPT-2などの前提条件の変圧器を使用します

このパッケージは、スペイシーのフェイスのtransformersを抱きしめてトランスモデルを使用するためのスペイシーコンポーネントとアーキテクチャを提供します。その結果、BERT、GPT-2、XLNETなど、最先端の変圧器アーキテクチャへの便利なアクセス。

このリリースにはSpacy V3が必要です。このライブラリの以前のバージョンについては、 v0.6.xブランチを参照してください。

特徴

• Bert 、 Roberta 、 XLNETなどの前提条件の変圧器モデルを使用して、スペイシーパイプラインを強化します。
• 簡単なマルチタスク学習：いくつかのパイプラインコンポーネントから1つの変圧器モデルにバックプロップします。
• Spacy V3の強力で拡張可能な構成システムを使用してトレーニングします。
• トランス出力のスペイシートークン化への自動アライメント。
• Docオブジェクトに保存されているトランスデータが簡単にカスタマイズされます。
• ドキュメントの処理期間を簡単にカスタマイズします。
• すぐに使用できるシリアル化とモデルパッケージ。

インストール

PIPからパッケージをインストールすると、PytorchやSpacyなどのすべての依存関係が自動的にインストールされます。モデルをインストールする前に、必ずこのパッケージをインストールしてください。また、このパッケージにはPython 3.6+ 、 Pytorch V1.5+ 、 Spacy V3.0+が必要であることに注意してください。

pip install ' spacy[transformers] '

GPUのインストールについては、 nvcc --versionを使用してCUDAバージョンspacy[transformers,cuda92]見つけ、ブラケットにバージョンspacy[transformers,cuda100]追加します。

Pytorchのインストールに問題がある場合は、特定のオペレーティングシステムと要件については、公式Webサイトの指示に従ってください。

ドキュメント

ショ和重要な注意：このパッケージは、Spacy V3.0を利用するために広範囲にリファクタリングされています。 Spacy V2.X用に構築された以前のバージョンは、かなり異なって機能しました。以前のバージョンのドキュメントについては、このREADMEの以前のタグ付きバージョンを参照してください。

• 埋め込み、トランス、転送学習：スペイシーで変圧器の使用方法
• トレーニングパイプラインとモデル：独自のデータでコンポーネントをトレーニングおよび更新し、カスタムモデルを統合します
• レイヤーとモデルアーキテクチャ：カスタムニューラルネットワークを備えたパワースペイシーコンポーネント
• ？ Transformer ：パイプラインコンポーネントAPIリファレンス
• ？トランスアーキテクチャ：アーキテクチャと登録機能

前処理されたテキストとトークン分類モデルを適用します

spacy-transformersからのtransformerコンポーネントは、トークンやテキスト分類などのタスク固有のヘッドをサポートしていないことに注意してください。タスク固有のトランスモデルは、 nerやtextcatなどのスペイシーコンポーネントをトレーニングするための機能のソースとして使用できますが、 transformerコンポーネントはトレーニングまたは推論のためにタスク固有のヘッドへのアクセスを提供しません。

または、既存のハグの顔のテキストまたはトークン分類モデルからの予測のみを使用したい場合は、 spacy-huggingface-pipelinesのラッパーを使用して、タスク固有のトランスモデルをスペイシーパイプラインに組み込むことができます。

バグレポートやその他の問題

Spacy's Issue Trackerを使用してバグを報告するか、その他の問題についてはディスカッションボードに新しいスレッドを開きます。