pytorch meta

Torchmeta

Uma coleção de extensões e carregadores de dados para aprendizado e meta-aprendizagem de poucos tiros em Pytorch. A Torchmeta contém benchmarks populares de meta-aprendizagem, totalmente compatíveis com torchvision e DataLoader de Pytorch.

Características

• Uma interface unificada para problemas de classificação e regressão de poucos tiros, para permitir uma fácil referência em vários problemas e reprodutibilidade.
• Helper funciona para alguns problemas populares, com argumentos padrão da literatura.
• Uma fina extensão do Module de Pytorch, chamada MetaModule , que simplifica a criação de certos modelos de meta-aprendizagem (por exemplo, métodos de meta-aprendizado baseados em gradiente). Consulte o exemplo MAML para um exemplo usando MetaModule .

Conjuntos de dados disponíveis

• Regressão de poucos tiro (Problemas de brinquedos):
  • Ondas senos (Finn et al., 2017)
  • Funções harmônicas (Lacoste et al., 2018)
  • Sinusoid & Lines (Finn et al., 2018)
• Classificação de poucos tiro (classificação da imagem):
  • Omniglot (Lake et al., 2015, 2019)
  • Mini-Imagenet (Vinyals et al., 2016, Ravi et al., 2017)
  • Imageno em camadas (Ren et al., 2018)
  • Cifar-fs (Bertinetto et al., 2018)
  • FewShot-Cifar100 (Oreshkin et al., 2018)
  • Birds Caltech-UCSD (Hilliard et al., 2019, Wah et al., 2019)
  • Double Mnist (Sun, 2019)
  • Triple Mnist (Sun, 2019)
• Segmentação de poucas fotos (segmentação semântica):
  • Configuração de 1 vias Pascal5i
• Classificação de poucos tiro (conjuntos de dados tabulares)
  • Carta (Frey & Slate, 1991)
  • Cem plantas (margem) (Mallah et al. 2013)
  • Cem plantas (forma) (Mallah et al. 2013)
  • Cem plantas (textura) (Mallah et al. 2013)
  • Bach coral Harmony (Radicioni & Esposito, 2010)

Instalação

Você pode instalar o Torchmeta usando o pacote de pacotes do Python PIP ou da fonte. Para evitar qualquer conflito com sua configuração Python existente, sugere -se trabalhar em um ambiente virtual com virtualenv . Para instalar virtualenv :

pip install --upgrade virtualenv
virtualenv venv
source venv/bin/activate

Requisitos

• Python 3.6 ou acima
• Pytorch 1.4 ou superior
• Torchvision 0,5 ou acima

Usando pip

Esta é a maneira recomendada de instalar Torchmeta:

pip install torchmeta

Da fonte

Você também pode instalar o Torchmeta a partir da fonte. Isso é recomendado se você deseja contribuir para a Torchmeta.

git clone https://github.com/tristandeleu/pytorch-meta.git
cd pytorch-meta
python setup.py install

Exemplo

Exemplo mínimo

Este exemplo mínimo abaixo mostra como criar um Dataloader para o conjunto de dados Omniglot de 5 vias com 5 tiro com Torchmeta. O Dataloader carrega um lote de tarefas geradas aleatoriamente, e todas as amostras são concatenadas em um único tensor. Para mais exemplos, verifique a pasta Exemplos.

 from torchmeta . datasets . helpers import omniglot
from torchmeta . utils . data import BatchMetaDataLoader

dataset = omniglot ( "data" , ways = 5 , shots = 5 , test_shots = 15 , meta_train = True , download = True )
dataloader = BatchMetaDataLoader ( dataset , batch_size = 16 , num_workers = 4 )

for batch in dataloader :
    train_inputs , train_targets = batch [ "train" ]
    print ( 'Train inputs shape: {0}' . format ( train_inputs . shape ))    # (16, 25, 1, 28, 28)
    print ( 'Train targets shape: {0}' . format ( train_targets . shape ))  # (16, 25)

    test_inputs , test_targets = batch [ "test" ]
    print ( 'Test inputs shape: {0}' . format ( test_inputs . shape ))      # (16, 75, 1, 28, 28)
    print ( 'Test targets shape: {0}' . format ( test_targets . shape ))    # (16, 75) 

Exemplo avançado

As funções auxiliares estão disponíveis apenas para alguns dos conjuntos de dados disponíveis. No entanto, todos eles estão disponíveis através da interface unificada fornecida pela Torchmeta. O dataset variável definido acima é equivalente ao seguinte

 from torchmeta . datasets import Omniglot
from torchmeta . transforms import Categorical , ClassSplitter , Rotation
from torchvision . transforms import Compose , Resize , ToTensor
from torchmeta . utils . data import BatchMetaDataLoader

dataset = Omniglot ( "data" ,
                   # Number of ways
                   num_classes_per_task = 5 ,
                   # Resize the images to 28x28 and converts them to PyTorch tensors (from Torchvision)
                   transform = Compose ([ Resize ( 28 ), ToTensor ()]),
                   # Transform the labels to integers (e.g. ("Glagolitic/character01", "Sanskrit/character14", ...) to (0, 1, ...))
                   target_transform = Categorical ( num_classes = 5 ),
                   # Creates new virtual classes with rotated versions of the images (from Santoro et al., 2016)
                   class_augmentations = [ Rotation ([ 90 , 180 , 270 ])],
                   meta_train = True ,
                   download = True )
dataset = ClassSplitter ( dataset , shuffle = True , num_train_per_class = 5 , num_test_per_class = 15 )
dataloader = BatchMetaDataLoader ( dataset , batch_size = 16 , num_workers = 4 )

Observe que o Dataloader, recebendo o conjunto de dados, permanece o mesmo.

Citação

Tristan Deleu, Tobias Würfl, Mandana Samiei, Joseph Paul Cohen e Yoshua Bengio. Torchmeta: uma biblioteca de meta-aprendizagem para Pytorch, 2019 [Arxiv]

Se você deseja citar a Torchmeta, use a seguinte entrada do Bibtex:

 @misc{deleu2019torchmeta,
  title={{Torchmeta: A Meta-Learning library for PyTorch}},
  author={Deleu, Tristan and W"urfl, Tobias and Samiei, Mandana and Cohen, Joseph Paul and Bengio, Yoshua},
  year={2019},
  url={https://arxiv.org/abs/1909.06576},
  note={Available at: https://github.com/tristandeleu/pytorch-meta}
}