deploy transformers
1.0.0
نشر نموذج SOTA لتوليد النص في ثلاثة أسطر فقط من التعليمات البرمجية
من الواضح أن Pytorch و Transformers ضرورية.
pip install deploy-transformersللنشر ، يجب أن يكون بنية الملف هكذا:
├── static
│ ├── script.js
│ ├── style.css
├── templates
│ ├── 404.html
│ ├── index.html
|
└── your_file.py يمكنك إما استنساخ هذا المستودع للحصول على ملفات أصلية أو استخدام الوظيفة website.create_structure() أو إنشاء هيكل نفسك .
سيقوم website.create_structure() بإنشاء قوالب/ ثابت/ وجميع الملفات الموجودة فيه (.html ، .js ، .css).
تحقق من الأمثلة/ المجلد.
# Deployment
from deploy_transformers import Website
website = Website ( model_type = "gpt2" , model_name = "distilgpt2" )
# website.create_folder(homepage_file="index.html", template_folder='templates', static_folder='static')
website . deploy () يمكنك تغيير اسم ملف الصفحة الرئيسية والقوالب/ والستاتية/ الأسماء في website.deploy() ولكن من الأفضل أن تبقيها على أنها افتراضية.
# Only text generation
from deploy_transformers import ListModels , Model
# ListModels() to show available models
model = Model ( "gpt2" , "distilgpt2" , seed = 42 , verbose = False )
model . generate ( length = 20 , prompt = "The quick brown fox jumps over the lazy dog" )
# If no prompt, input will be ask until exitهناك أيضا dockerfile.