Promptzl

Pr? Mptzl

Превратите современные LLMS в ноль ⁺ -shot Pytorch Classifiers всего за несколько строк кода.

Предложения Quickzl:

• ? Zero ⁺ -shot Classification с LLMS
• ? Превращение причинных и маскированных LMS в классификаторы без каких -либо тренировок
• ? Обработка партии на вашем устройстве для эффективности
• Ускорение по поводу вызова онлайн-API
• ? Прозрачность и доступность с использованием модели локально
• ? Распределение по меткам
• ✂ Не нужно извлекать прогнозы из ответа.

Для получения дополнительной информации ознакомьтесь с официальной документацией .

Установка

pip install -U promptzl

Начиная

Всего за несколько строк кода вы можете преобразовать LLM выбора в классификатор старой школы со всеми его желательными свойствами:

Настройка набора данных:

 from datasets import Dataset

dataset = Dataset . from_dict (
    {
        'text' : [
            "The food was absolutely wonderful, from preparation to presentation, very pleasing." ,
            "The service was a bit slow, but the food made up for it. Highly recommend the pasta!" ,
            "The restaurant was too noisy and the food was mediocre at best. Not worth the price." ,
        ],
        'label' : [ 1 , 1 , 0 ]
    }
)

Определите подсказку для направления языковой модели к правильным прогнозам:

 from promptzl import FnVbzPair , Vbz
prompt = FnVbzPair (
    lambda e : f"""Restaurant review classification into categories 'positive' or 'negative'.

    'Best pretzls in town!'='positive'
    'Rude staff, horrible food.'='negative'

    ' { e [ 'text' ] } '=""" ,
    Vbz ({ 0 : [ "negative" ], 1 : [ "positive" ]}))

Инициализировать модель:

 from promptzl import CausalLM4Classification
model = CausalLM4Classification (
    'HuggingFaceTB/SmolLM2-1.7B' ,
    prompt = prompt )

Классифицировать данные:

 from sklearn . metrics import accuracy_score
output = model . classify ( dataset , show_progress_bar = True , batch_size = 1 )
accuracy_score ( dataset [ 'label' ], output . predictions )
1.0

Для более подробных учебных пособий, посмотрите документацию!