declarai

---

Документация : https://declarai.com

Исходный код : https://github.com/vendi-ai/declarai

---

Что такое объявление ??

Declarai превращает ваш код Python в задачи LLM, позволяя вам легко интегрировать LLM в существующую кодовую базу. Он работает на простом принципе: просто определите функцию/класс Python. Аннотируя эту функцию Docstrings и Type Hints, вы предоставляете четкий набор инструкций для модели ИИ без каких -либо дополнительных усилий.

После того, как вы объявили свою функцию, Declarai разумно собирает Docstrings и тип функции в подсказке для модели ИИ, гарантируя, что модель точно понимает, что требуется.

После выполнения задачи Declarai извлекает ответ AI и анализирует его, переведя его обратно в объявленный тип возврата вашей функции Python. Это устраняет любой ручной анализ или пост-обработку с вашей стороны.

Declarai сохраняет его родным: в своей основе Declarai о принятии нативных практик Python. Вам не нужно изучать новый синтаксис или адаптироваться к другой парадигме кодирования. Просто напишите функции Python, как всегда, и позвольте Declarai обрабатывать интеграцию AI плавно.

---

Основные компоненты?

Задачи

Задачи ИИ используются для любой бизнес -логики или преобразования.

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task 
def rank_by_severity ( message : str ) -> int :
    """
    Rank the severity of the provided message by it's urgency.
    Urgency is ranked on a scale of 1-5, with 5 being the most urgent.
    :param message: The message to rank
    :return: The urgency of the message
    """


rank_by_severity ( message = "The server is down!" )

>> > 5

rank_by_severity ( message = "How was your weekend?" ))

>> > 1

Чат ?

Чаты ИИ используются для итеративного разговора с моделью ИИ, где модель ИИ может запомнить предыдущие сообщения и контекст.

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . experimental . chat
class SQLBot :
    """
    You are a sql assistant. You help with SQL related questions 
    """


sql_bot = SQLBot ()
sql_bot . send ( "When should I use a LEFT JOIN?" )

> " You should use a LEFT JOIN when you want to return all rows from ....

Функции:

• ? Интеллектуальные подсказки : автоматически генерируйте подсказки с использованием подсказок типов и Docstrings.
• ? Разговорной ИИ : Интерфейс чата, оснащенный памятью и управлением контекстом.
• ⚡ Streaming в реальном времени : ответы Stream LLM, которые занимают больше времени.
• Пайдантская модель анализа : беспрепятственно разобрать ответы LLM в модели пидантики.
• ? Pythonic : родное понимание и анализ ответов LLM в примитивы Python.
• ? Многочисленные бэкэнды ИИ : интегрировано с поставщиками OpenAI & Azure AI LLM.
• ? Промежуточное программное обеспечение : адаптировать и расширять поведение задач с помощью модульной системы промежуточного программного обеспечения.
• ? Скоро : интеграция с Hubgingface Hub

QuickStart

Установка

pip install declarai

Настраивать

 export OPENAI_API_KEY= < your openai token >

или передайте токен при инициализации объекта Declarai

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" , openai_token = "<your-openai-key>" )

Основное использование

Craft AI-функции с легкостью с использованием декоратора @task . Просто добавьте некоторые подсказки типа и немного документации, и посмотрите, как Declarai делает свое волшебство!

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def generate_poem ( title : str ) -> str :
    """
    Write a 4 line poem on the provided title
    """


res = generate_poem (
    title = "Declarai, the declarative AI framework for LLMs"
)
print ( res )
# Declarai, the AI framework,
# Empowers LLMs with declarative power,
# Efficiently transforming data and knowledge,
# Unlocking insights in every hour.

Не лучшее стихотворение, но эй! Вы написали свой первый декларативный код ИИ!

Declarai стремится продвигать чистый и читаемый код, обеспечивая использование док-стенков и набора текста. Полученный код читается и легко поддерживается.

Задачи с нативным

Примитивы Python

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def rank_by_severity ( message : str ) -> int :
    """
    Rank the severity of the provided message by it's urgency.
    Urgency is ranked on a scale of 1-5, with 5 being the most urgent.
    :param message: The message to rank
    :return: The urgency of the message
    """


rank_by_severity ( message = "The server is down!" )

>> > 5
rank_by_severity ( message = "How was your weekend?" ))

>> > 1

Списки Python/DICTS и т. Д.

 from typing import List
import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def multi_value_extraction ( text : str ) -> List [ str ]:
    """
    Extract the phone numbers from the provided text
    :param text: content to extract phone number from
    :return: The phone numbers that where identified in the input text
    """


multi_value_extraction (
    text = "Hey jenny, n you can call me at 124-3435-132. n "
         "you can also reach me at [phone]"
)
>> > [ '124-3435-132' , '[phone]' ]

Комплексные объекты Python

 from datetime import datetime
import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def datetime_parser ( raw_date : str ) -> datetime :
    """
    Parse the input into a valid datetime string of the format YYYY-mm-ddThh:mm:ss
    :param raw_date: The provided raw date
    :return: The parsed datetime output
    """


datetime_parser ( raw_date = "Janury 1st 2020" ))

>> > 2020 - 01 - 01 00 : 00 : 00

Пидантические модели

 from pydantic import BaseModel
from typing import List , Dict
import declarai


class Animal ( BaseModel ):
    name : str
    family : str
    leg_count : int

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def suggest_animals ( location : str ) -> Dict [ int , List [ Animal ]]:
    """
    Create a list of numbers from 0 to 5
    for each number, suggest a list of animals with that number of legs
    :param location: The location where the animals can be found
    :return: A list of animal leg count and for each count, the corresponding animals
    """


suggest_animals ( location = "jungle" )

>> > {
       0 : [
           Animal ( name = 'snake' , family = 'reptile' , leg_count = 0 )
       ], 
       2 : [
           Animal ( name = 'monkey' , family = 'mammal' , leg_count = 2 ), 
           Animal ( name = 'parrot' , family = 'bird' , leg_count = 2 )
       ], 
       4 : [
          Animal ( name = 'tiger' , family = 'mammal' , leg_count = 4 ), 
          Animal ( name = 'elephant' , family = 'mammal' , leg_count = 4 )
       ]
 }

Шаблоны джинджи?

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . task
def sentiment_classification ( string : str , examples : List [ str , int ]) -> int :
    """
    Classify the sentiment of the provided string, based on the provided examples.
    The sentiment is ranked on a scale of 1-5, with 5 being the most positive.
    {% for example in examples %}
    {{ example[0] }} // {{ example[1] }}
    {% endfor %}
    {{ string }} //
    """
    
sentiment_classification ( string = "I love this product but there are some annoying bugs" ,
                         examples = [[ "I love this product" , 5 ], [ "I hate this product" , 1 ]])

>> > 4

Простой интерфейс чата

 import declarai

gpt_35 = declarai . openai ( model = "gpt-3.5-turbo" )

@ gpt_35 . experimental . chat
class CalculatorBot :
    """
    You a calculator bot,
    given a request, you will return the result of the calculation
    """

    def send ( self , message : str ) -> int : ...


calc_bot = CalculatorBot ()
calc_bot . send ( message = "1 + 1" )

>> > 2

Для тщательного введения, функций и лучших практик изучите нашу официальную документацию и руководство для начинающих.

Внося

Присоединяйтесь к нашей миссии, чтобы сделать декларативный ИИ еще лучше вместе! Проверьте наше руководство для начала.