TuoTuo

Tuotuo

Tuotuo Uma biblioteca de modelagem de tópicos escrita em Python. Tuotuo também é um garoto bonito, meu filho, que agora tem 6 meses de idade.

Instalação

Use o Package Manager PIP para instalar Tuotuo. Você pode encontrar a distribuição Pypi aqui.

pip install TuoTuo --upgrade

Uso

Atualmente, a biblioteca suporta apenas a modelagem de tópicos por meio de alocação latente de Dirichlet (LDA). Como sabemos, o LDA pode ser implementado usando amostragem de Gibbs e inferência variacional, escolhemos o último, pois isso é matematicamente mais sofisticado

• Gere alguns documentos baseados em parâmetros de Dirichlet predefinidos em 5 tópicos diferentes e 40 palavras únicas

 import torch as tr
from tuotuo . generator import doc_generator 

gen = doc_generator (
    M = 100 , 
    # we sample 100 documents 
    L = 20 , 
    # each document would contain 20 pre-defined words 
    topic_prior = tr . tensor ([ 1 , 1 , 1 , 1 , 1 ], dtype = tr . double )
    # we use a exchangable Dirichlet Distribution as our topic prior, 
    # that is a uniform distribution on 5 topics
)
train_docs = gen . generate_doc ()

• Formulário de treinamento e treinar os parâmetros de inferência variacional no LDA

 from tuotuo . lda_model import LDASmoothed 
import matplotlib . pyplot as plt 

lda = LDASmoothed (
    num_topics = 5 , 
)

perplexes = lda . fit (
    train_docs ,
    sampling = False ,
    verbose = True , 
    return_perplexities = True ,
)
plt . plot ( perplexes )

= >= >= >= >= >= >= >= >
Topic Dirichlet Prior , Alpha
1

Exchangeable Word Dirichlet Prior , Eta 
1

Var Inf - Word Dirichlet prior , Lambda
( 5 , 40 )

Var Inf - Topic Dirichlet prior , Gamma
( 100 , 5 )

Init perplexity = 84.99592157507153
End perplexity = 45.96696541539976 

• Confira as 5 principais palavras para cada tópico de acordo com o parâmetro de inferência variacional: $ lambda $

 for topic_index in range ( lda . _lambda_ . shape [ 0 ]):

    top5 = np . argsort ( lda . _lambda_ [ topic_index ,:],)[ - 5 :]
    print ( f"Topic { topic_index } " )
    for i , idx in enumerate ( top5 ):
        print ( f"Top { i + 1 } -> { lda . train_doc . idx_to_vocab [ idx ] } " )
    print ()

= >= >= >= >= >= >= >= >
Topic 0 
Top 1 -> physical
Top 2 -> quantum
Top 3 -> research
Top 4 -> scientst
Top 5 -> astrophysics

Topic 1
Top 1 -> divorce
Top 2 -> attorney
Top 3 -> court
Top 4 -> bankrupt
Top 5 -> contract

Topic 2
Top 1 -> content
Top 2 -> Craftsmanship
Top 3 -> concert
Top 4 -> asymmetrical
Top 5 -> Symmetrical

Topic 3
Top 1 -> recreation
Top 2 -> FIFA
Top 3 -> football
Top 4 -> Olympic
Top 5 -> athletics

Topic 4
Top 1 -> fever
Top 2 -> appetite
Top 3 -> contagious
Top 4 -> decongestant
Top 5 -> injection

Como podemos ver das 5 principais palavras, podemos facilmente perceber o seguinte mapeamento:

Tópico 0 -> Tópico da Ciência 1 -> Tópico da Lei 2 -> Tópico de Arte 3 -> Tópico do Esporte 4 -> Saúde

Contribuindo e referências

Solicitações de tração são bem -vindas. Para grandes mudanças, abra um problema primeiro para discutir o que você gostaria de mudar.

Como não há biblioteca de modelagem de tópicos maduros disponíveis, também estamos procurando colaboradores que gostariam de contribuir nas seguintes direções:

1. Versão de inferência variacional para LDA online, seguindo o artigo LDA original de David Blei em 2023 e o artigo LDA on -line sobre neuraips.

A maior parte do trabalho está concluída para esta parte, ainda precisamos trabalhar:

• Otimização computacional
• Implementação online de LDA
• Atualização eficiente de Newton sobre Priors, ou seja, $ alpha $ e $ eta $

2. Estenda a biblioteca para suportar a inferência variacional neural após este artigo ICML: Inferência neural Variational para processamento de texto

3. Estenda o treinamento para apoiar o aprendizado de reforço após este artigo da ACL: Modelo de tópico neural com aprendizado de reforço

Licença

Mit