applied_nlp_demosダウンロードapplied_nlp_demosソースコードダウンロード

applied_nlp_demos

AI ソースコード

1.0.0

ダウンロード

PytorchのApplied_nlp_demos

現代のNLP

Pretrain T5 V1.1：C4データセットコードのトレイン前T5。このコードは、Huggingfaceのおかげで他の利用可能なオプションよりも、非常に複雑ではなく、読みやすく、Googleの実装に忠実です。 65,536ステップで1.942の損失を報告するT5 1.1ペーパーと比較して、単一のRTX 4090は、このコードを使用した約18.5時間のトレーニングでテストセット（2.08）で同等の結果を生成します（以下の画像を参照）。独自のデータセットでの事前削除は、既存のDatasetセットと交換するのと同じくらい簡単です。

T5事前トレーニング損失

seq2seq（チャットボット）：アルパカコードでflan-t5を微調整します
seq2seq：ハギングフェイスデータセットフレームワークコードを使用したデータの微調整flan-t5

Google/Flan-T5-Large

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: Fahrenheit

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 3, 4, 8

input sentence: What is the capital of France?
response: paris

input sentence: Name two types of desert biomes.
response: sahara

Google/Flan-T5-Large：Alpacaで微調整されています

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: 77

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 2, 3, 4, 8

input sentence: What is the capital of France?
response: Paris

input sentence: Name two types of desert biomes.
response: Desert biomes can be divided into two main types: arid and semi-arid. Arid deserts are characterized by high levels of deforestation, sparse vegetation, and limited water availability. Semi-desert deserts, on the other hand, are relatively dry deserts with little to no vegetation.