Promptzl

PR? Mptzl

Convierta los LLM de vanguardia en clasificadores de pytorch cero ⁺ -shot en solo unas pocas líneas de código.

Ofridades de pridzl:

• ? Clasificación cero ⁺ -shot con LLMS
• ? Convertir los LM causales y enmascarados en clasificadores sin ningún entrenamiento
• ? Procesamiento por lotes en su dispositivo para obtener eficiencia
• Acelerar sobre llamar a una API en línea
• ? Transparencia y accesibilidad utilizando el modelo localmente
• ? Distribución sobre etiquetas
• ✂️ No hay necesidad de extraer las predicciones de la respuesta.

Para obtener más información, consulte la documentación oficial .

Instalación

pip install -U promptzl

Empezando

En solo unas pocas líneas de código, puede transformar un LLM de elección en un clasificador de la vieja escuela con todas las propiedades deseables:

Configurar el conjunto de datos:

 from datasets import Dataset

dataset = Dataset . from_dict (
    {
        'text' : [
            "The food was absolutely wonderful, from preparation to presentation, very pleasing." ,
            "The service was a bit slow, but the food made up for it. Highly recommend the pasta!" ,
            "The restaurant was too noisy and the food was mediocre at best. Not worth the price." ,
        ],
        'label' : [ 1 , 1 , 0 ]
    }
)

Definir un mensaje para guiar el modelo de idioma a las predicciones correctas:

 from promptzl import FnVbzPair , Vbz
prompt = FnVbzPair (
    lambda e : f"""Restaurant review classification into categories 'positive' or 'negative'.

    'Best pretzls in town!'='positive'
    'Rude staff, horrible food.'='negative'

    ' { e [ 'text' ] } '=""" ,
    Vbz ({ 0 : [ "negative" ], 1 : [ "positive" ]}))

Inicializar un modelo:

 from promptzl import CausalLM4Classification
model = CausalLM4Classification (
    'HuggingFaceTB/SmolLM2-1.7B' ,
    prompt = prompt )

Clasifique los datos:

 from sklearn . metrics import accuracy_score
output = model . classify ( dataset , show_progress_bar = True , batch_size = 1 )
accuracy_score ( dataset [ 'label' ], output . predictions )
1.0

Para obtener tutoriales más detallados, ¡consulte la documentación!