หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>หลาม
ดาวน์โหลด

อดีต

การใช้งานหม้อแปลงง่ายๆตั้งแต่เริ่มต้นใน Pytorch ดู http://peterbloem.nl/blog/transformers สำหรับคำอธิบายเชิงลึก

ข้อ จำกัด

โมเดลที่นำมาใช้ที่นี่ได้รับการออกแบบมาเพื่อแสดงความเรียบง่ายของโมเดลหม้อแปลงและความตั้งใจด้วยตนเอง เช่นนี้พวกเขาจะไม่ขยายขนาดเท่าหม้อแปลงที่ใหญ่กว่า เพื่อที่คุณจะต้องใช้เทคนิคจำนวนมากที่ทำให้รหัสซับซ้อน (ดูโพสต์บล็อกสำหรับรายละเอียด)

ทุกรุ่นในที่เก็บประกอบด้วยสแต็คเดียวของบล็อกหม้อแปลง (นั่นคือไม่มีโครงสร้างตัวเข้ารหัส/ตัวถอดรหัส) ปรากฎว่าการกำหนดค่าที่เรียบง่ายนี้มักจะทำงานได้ดีที่สุด

การติดตั้งและการใช้งาน

ก่อนอื่นให้ดาวน์โหลดหรือโคลนที่เก็บ จากนั้นในไดเรกทอรีที่มี setup.py รัน 

 pip install -e .

สวิตช์ -e ทำให้มั่นใจได้ว่าเมื่อคุณแก้ไขรหัสแพคเกจที่ติดตั้งจะเปลี่ยนไปเช่นกัน ซึ่งหมายความว่าคุณสามารถเพิ่มคำสั่งการพิมพ์ลงในรหัสเพื่อดูว่ามันทำงานอย่างไร

จากนั้นจากไดเรกทอรีเดียวกันรัน: 

 python experiments/classify.py

สิ่งนี้จะเรียกใช้การทดสอบการจำแนกประเภทอย่างง่ายบนชุดข้อมูล IMDB

Hyperparameters ถูกส่งผ่านเป็นอาร์กิวเมนต์บรรทัดคำสั่ง ค่าเริ่มต้นควรทำงานได้ดี ข้อมูลการจำแนกจะถูกดาวน์โหลดโดยอัตโนมัติและข้อมูล Wikipedia จะรวมอยู่ในที่เก็บ

ความต้องการ

ต้องใช้ Python 3.6+ คำสั่ง PIP ด้านบนควรติดตั้งแพ็คเกจที่จำเป็นทั้งหมด คุณอาจต้อง pip install future ขึ้นอยู่กับรุ่น Python ที่แน่นอน

สภาพแวดล้อมคอนดา

File environment.yml อธิบายสภาพแวดล้อม conda ที่สมบูรณ์พร้อมการพึ่งพาทั้งหมด หลังจากโคลนนิ่งหรือดาวน์โหลดโครงการคุณสร้างสภาพแวดล้อมดังนี้: 

 conda env create -f environment.yml --name former
conda activate former
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด