ดาวน์โหลด Ensemble Pytorch - Ensemble Pytorch Source Source Download

Ensemble Pytorch

หลาม

v0.2.0

ดาวน์โหลด

./docs/_images/badge_small.png

คนอื่น ๆ

ชุด Pytorch

เฟรมเวิร์กวงดนตรีแบบครบวงจรสำหรับ Pytorch เพื่อปรับปรุงประสิทธิภาพและความแข็งแกร่งของรูปแบบการเรียนรู้ลึกของคุณได้อย่างง่ายดาย Ensemble-Pytorch เป็นส่วนหนึ่งของระบบนิเวศ Pytorch ซึ่งต้องการให้โครงการได้รับการดูแลอย่างดี

เอกสาร
การทดลอง

การติดตั้ง

pip install torchensemble

ตัวอย่าง

 from torchensemble import VotingClassifier  # voting is a classic ensemble strategy

# Load data
train_loader = DataLoader (...)
test_loader = DataLoader (...)

# Define the ensemble
ensemble = VotingClassifier (
    estimator = base_estimator ,               # estimator is your pytorch model
    n_estimators = 10 ,                        # number of base estimators
)

# Set the optimizer
ensemble . set_optimizer (
    "Adam" ,                                 # type of parameter optimizer
    lr = learning_rate ,                       # learning rate of parameter optimizer
    weight_decay = weight_decay ,              # weight decay of parameter optimizer
)

# Set the learning rate scheduler
ensemble . set_scheduler (
    "CosineAnnealingLR" ,                    # type of learning rate scheduler
    T_max = epochs ,                           # additional arguments on the scheduler
)

# Train the ensemble
ensemble . fit (
    train_loader ,
    epochs = epochs ,                          # number of training epochs
)

# Evaluate the ensemble
acc = ensemble . evaluate ( test_loader )         # testing accuracy

Ensemble ที่รองรับ

ชื่อวงดนตรี	พิมพ์	รหัสต้นฉบับ	ปัญหา
การผสมผสาน	ผสมกัน	fusion.py	การจำแนก / การถดถอย
โหวต [1]	ขนาน	โหวต	การจำแนก / การถดถอย
ป่าประสาท	ขนาน	โหวต	การจำแนก / การถดถอย
ถุง [2]	ขนาน	bagging.py	การจำแนก / การถดถอย
การเพิ่มความลาดชัน [3]	ตามลำดับ	gradient_boosting.py	การจำแนก / การถดถอย
Snapshot Ensemble [4]	ตามลำดับ	snapshot_ensemble.py	การจำแนก / การถดถอย
การฝึกอบรมฝ่ายตรงข้าม [5]	ขนาน	antcersarial_training.py	การจำแนก / การถดถอย
ชุดเรขาคณิตเร็ว [6]	ตามลำดับ	fast_geometric.py	การจำแนก / การถดถอย
การไล่ระดับสีอ่อนนุ่ม [7]	ขนาน	soft_gradient_boosting.py	การจำแนก / การถดถอย

การพึ่งพาอาศัยกัน

scikit-learn> = 0.23.0
Torch> = 1.4.0
Torchvision> = 0.2.2

อ้างอิง

[1]	Zhou, Zhi-Hua วิธีการทั้งหมด: ฐานรากและอัลกอริทึม CRC Press, 2012

[2]	Breiman, Leo การทำนายการบรรจุถุง การเรียนรู้ของเครื่อง (1996): 123-140

[3]	Friedman, Jerome H. Greedy Function Apportation: เครื่องเพิ่มการไล่ระดับสี พงศาวดารสถิติ (2001): 1189-1232

[4]	Huang, Gao, et al. Snapshot Ensembles: Train 1 รับ M ฟรี ICLR, 2017

[5]	Lakshminarayanan, Balaji, et al. การประมาณความไม่แน่นอนที่คาดการณ์ได้ง่ายและปรับขนาดได้โดยใช้วงดนตรีลึก NIPS, 2017

[6]	Garipov, Timur, et al. พื้นผิวการสูญเสียการเชื่อมต่อโหมดและวงดนตรีที่รวดเร็วของ DNN Neurips, 2018