declarai

---

Documentação : https://declarai.com

Código fonte : https://github.com/vendi-ai/declarai

---

O que é Declarai ??

O Declarai transforma seu código Python em tarefas LLM, permitindo que você integre facilmente o LLM à sua base de código existente. Ele opera com um princípio simples: basta definir uma função/classe python. Ao anotar essa função com Docstrings e Type Dicas, você fornece um conjunto de instruções claras para o modelo de IA sem nenhum esforço adicional.

Depois de declarar sua função, o Declarai compila de maneira inteligente os documentos e o tipo da função sugerem um prompt para o modelo de IA, garantindo que o modelo entenda exatamente o que é necessário.

Depois de executar a tarefa, Declarai recupera a resposta da IA ​​e a analisa, traduzindo -a de volta ao tipo de retorno declarado da sua função Python. Isso elimina qualquer análise manual ou pós-processamento de sua parte.

Declarai o mantém nativo: em sua essência, Declarai é abraçar as práticas nativas do Python. Você não precisa aprender uma nova sintaxe ou se adaptar a um paradigma de codificação diferente. Basta escrever funções do Python como sempre, e deixar Declarai lidar com a integração da IA ​​perfeitamente.

---

Componentes principais?

Tarefas

As tarefas de IA são usadas para qualquer lógica ou transformação de negócios.

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task 
def rank_by_severity ( message : str ) -> int :
    """
    Rank the severity of the provided message by it's urgency.
    Urgency is ranked on a scale of 1-5, with 5 being the most urgent.
    :param message: The message to rank
    :return: The urgency of the message
    """


rank_by_severity ( message = "The server is down!" )

>> > 5

rank_by_severity ( message = "How was your weekend?" ))

>> > 1

Bater papo ?

Os bate -papos de IA são usados ​​para uma conversa iterativa com o modelo de IA, onde o modelo de IA pode se lembrar de mensagens e contexto anteriores.

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . experimental . chat
class SQLBot :
    """
    You are a sql assistant. You help with SQL related questions 
    """


sql_bot = SQLBot ()
sql_bot . send ( "When should I use a LEFT JOIN?" )

> " You should use a LEFT JOIN when you want to return all rows from ....

Características:

• ? Prompts inteligentes : gerar automaticamente prompts usando dicas e dicas de tipo.
• ? A IA de conversação : interface de bate -papo equipada com memória e gerenciamento de contexto.
• ⚡ Streaming em tempo real : STREAM LLM Respostas que levam mais tempo para serem concluídas.
• Pydantic Model Parsing : Parse perfeitamente respostas LLM em modelos pydantic.
• ? Pitônico : entendimento nativo e análise de respostas de LLM em primitivas em Python.
• ? Vários back -end : integrado aos provedores OpenAI & Azure AI LLM.
• ? Middleware : adapte e estenda o comportamento das tarefas com um sistema modular de middleware.
• ? Em breve : integração com hub de huggingface

Investir rápido

Instalação

pip install declarai

Configurar

 export OPENAI_API_KEY= < your openai token >

ou passar no token ao inicializar o objeto Declarai

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" , openai_token = "<your-openai-key>" )

Uso básico

Funcionalidades a IA artesanal com facilidade usando o decorador @task . Basta adicionar algumas dicas de tipo e um pouco de documentação e assistir a Declarai fazer sua mágica!

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def generate_poem ( title : str ) -> str :
    """
    Write a 4 line poem on the provided title
    """


res = generate_poem (
    title = "Declarai, the declarative AI framework for LLMs"
)
print ( res )
# Declarai, the AI framework,
# Empowers LLMs with declarative power,
# Efficiently transforming data and knowledge,
# Unlocking insights in every hour.

Não é o melhor poema por aí, mas ei! Você escreveu seu primeiro código declarativo de IA!

A Declarai pretende promover o código limpo e legível, aplicando o uso de strings de documentos e digitação. O código resultante é legível e facilmente sustentável.

Tarefas com análise de saída nativa de Python

Primitivos Python

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def rank_by_severity ( message : str ) -> int :
    """
    Rank the severity of the provided message by it's urgency.
    Urgency is ranked on a scale of 1-5, with 5 being the most urgent.
    :param message: The message to rank
    :return: The urgency of the message
    """


rank_by_severity ( message = "The server is down!" )

>> > 5
rank_by_severity ( message = "How was your weekend?" ))

>> > 1

Listas/ditos de python etc ..

 from typing import List
import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def multi_value_extraction ( text : str ) -> List [ str ]:
    """
    Extract the phone numbers from the provided text
    :param text: content to extract phone number from
    :return: The phone numbers that where identified in the input text
    """


multi_value_extraction (
    text = "Hey jenny, n you can call me at 124-3435-132. n "
         "you can also reach me at [phone]"
)
>> > [ '124-3435-132' , '[phone]' ]

Objetos complexos do Python

 from datetime import datetime
import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def datetime_parser ( raw_date : str ) -> datetime :
    """
    Parse the input into a valid datetime string of the format YYYY-mm-ddThh:mm:ss
    :param raw_date: The provided raw date
    :return: The parsed datetime output
    """


datetime_parser ( raw_date = "Janury 1st 2020" ))

>> > 2020 - 01 - 01 00 : 00 : 00

Modelos Pydantic

 from pydantic import BaseModel
from typing import List , Dict
import declarai


class Animal ( BaseModel ):
    name : str
    family : str
    leg_count : int

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def suggest_animals ( location : str ) -> Dict [ int , List [ Animal ]]:
    """
    Create a list of numbers from 0 to 5
    for each number, suggest a list of animals with that number of legs
    :param location: The location where the animals can be found
    :return: A list of animal leg count and for each count, the corresponding animals
    """


suggest_animals ( location = "jungle" )

>> > {
       0 : [
           Animal ( name = 'snake' , family = 'reptile' , leg_count = 0 )
       ], 
       2 : [
           Animal ( name = 'monkey' , family = 'mammal' , leg_count = 2 ), 
           Animal ( name = 'parrot' , family = 'bird' , leg_count = 2 )
       ], 
       4 : [
          Animal ( name = 'tiger' , family = 'mammal' , leg_count = 4 ), 
          Animal ( name = 'elephant' , family = 'mammal' , leg_count = 4 )
       ]
 }

Modelos de jinja?

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def sentiment_classification ( string : str , examples : List [ str , int ]) -> int :
    """
    Classify the sentiment of the provided string, based on the provided examples.
    The sentiment is ranked on a scale of 1-5, with 5 being the most positive.
    {% for example in examples %}
    {{ example[0] }} // {{ example[1] }}
    {% endfor %}
    {{ string }} //
    """
    
sentiment_classification ( string = "I love this product but there are some annoying bugs" ,
                         examples = [[ "I love this product" , 5 ], [ "I hate this product" , 1 ]])

>> > 4

Interface de bate -papo simples

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . experimental . chat
class CalculatorBot :
    """
    You a calculator bot,
    given a request, you will return the result of the calculation
    """

    def send ( self , message : str ) -> int : ...


calc_bot = CalculatorBot ()
calc_bot . send ( message = "1 + 1" )

>> > 2

Para uma introdução completa, recursos e práticas recomendadas, explore nossa documentação oficial e guia para iniciantes.

Contribuindo

Junte -se à nossa missão de tornar a IA declarativa ainda melhor juntos! Confira nosso guia contribuinte para começar.