TuoTuo

tuotuo

Tuotuo مكتبة نمذجة الموضوع مكتوبة في بيثون. Tuotuo هو أيضًا فتى لطيف ، ابني ، البالغ من العمر الآن 6 أشهر.

تثبيت

استخدم Package Manager PIP لتثبيت Tuotuo. قد تجد توزيع PYPI هنا.

pip install TuoTuo --upgrade

الاستخدام

حاليًا ، تدعم المكتبة فقط نمذجة الموضوع عبر تخصيص Dirichlet Carent (LDA). كما نعلم ، يمكن تنفيذ LDA باستخدام أخذ عينات GIBBS واستدلال التباين ، نختار الأخير لأن هذا أكثر تطوراً رياضيا

• قم بإنشاء بعض المستندات بناءً على معلمات dirichlet المحددة مسبقًا على 5 موضوعات مختلفة و 40 كلمة فريدة

 import torch as tr
from tuotuo . generator import doc_generator 

gen = doc_generator (
    M = 100 , 
    # we sample 100 documents 
    L = 20 , 
    # each document would contain 20 pre-defined words 
    topic_prior = tr . tensor ([ 1 , 1 , 1 , 1 , 1 ], dtype = tr . double )
    # we use a exchangable Dirichlet Distribution as our topic prior, 
    # that is a uniform distribution on 5 topics
)
train_docs = gen . generate_doc ()

• نما عن وثيقة التدريب وتدريب معلمات الاستدلال التباين في LDA

 from tuotuo . lda_model import LDASmoothed 
import matplotlib . pyplot as plt 

lda = LDASmoothed (
    num_topics = 5 , 
)

perplexes = lda . fit (
    train_docs ,
    sampling = False ,
    verbose = True , 
    return_perplexities = True ,
)
plt . plot ( perplexes )

= >= >= >= >= >= >= >= >
Topic Dirichlet Prior , Alpha
1

Exchangeable Word Dirichlet Prior , Eta 
1

Var Inf - Word Dirichlet prior , Lambda
( 5 , 40 )

Var Inf - Topic Dirichlet prior , Gamma
( 100 , 5 )

Init perplexity = 84.99592157507153
End perplexity = 45.96696541539976 

• تحقق من أفضل 5 كلمات لكل موضوع وفقًا لمعلمة الاستدلال المتغير: $ lambda $

 for topic_index in range ( lda . _lambda_ . shape [ 0 ]):

    top5 = np . argsort ( lda . _lambda_ [ topic_index ,:],)[ - 5 :]
    print ( f"Topic { topic_index } " )
    for i , idx in enumerate ( top5 ):
        print ( f"Top { i + 1 } -> { lda . train_doc . idx_to_vocab [ idx ] } " )
    print ()

= >= >= >= >= >= >= >= >
Topic 0 
Top 1 -> physical
Top 2 -> quantum
Top 3 -> research
Top 4 -> scientst
Top 5 -> astrophysics

Topic 1
Top 1 -> divorce
Top 2 -> attorney
Top 3 -> court
Top 4 -> bankrupt
Top 5 -> contract

Topic 2
Top 1 -> content
Top 2 -> Craftsmanship
Top 3 -> concert
Top 4 -> asymmetrical
Top 5 -> Symmetrical

Topic 3
Top 1 -> recreation
Top 2 -> FIFA
Top 3 -> football
Top 4 -> Olympic
Top 5 -> athletics

Topic 4
Top 1 -> fever
Top 2 -> appetite
Top 3 -> contagious
Top 4 -> decongestant
Top 5 -> injection

كما نرى من أفضل 5 كلمات ، يمكننا بسهولة إدراك التعيين التالي:

الموضوع 0 -> موضوع العلوم 1 -> موضوع القانون 2 -> موضوع الفن 3 -> الموضوع الرياضي 4 -> الصحة

المساهمة والمراجع

طلبات السحب موضع ترحيب. للتغييرات الرئيسية ، يرجى فتح مشكلة أولاً لمناقشة ما تريد تغييره.

نظرًا لعدم توفر مكتبة نمذجة موضوع ناضجة ، فإننا نبحث أيضًا عن متعاونين يرغبون في المساهمة في الاتجاهات التالية:

1. إصدار استنتاج متغير لـ Batch & Online LDA ، بعد ورقة LDA الأصلية من قبل David Blei في عام 2023 وورقة LDA عبر الإنترنت على Neuraips.

تم الانتهاء من معظم الأعمال لهذا الجزء ، ما زلنا بحاجة إلى العمل على:

• التحسين الحسابي
• تطبيق LDA عبر الإنترنت
• تحديث كفاءة نيوتن على priors ، أي $ alpha $ و $ eta $

2. تمديد المكتبة لدعم الاستدلال التباين العصبي بعد ورقة ICML هذه: الاستدلال الاختلاف العصبي لمعالجة النص

3. تمديد التدريب لدعم التعلم التعزيز بعد ورقة ACL هذه: نموذج الموضوع العصبي مع التعرف على التعزيز

رخصة

معهد ماساتشوستس للتكنولوجيا