whetstone.chatgpt

Whetstone.chatgpt

Простая легкая библиотека, которая завершает открытый API AI с поддержкой инъекции зависимостей.

Поддерживаемые функции включают:

• GPT 4, GPT 3.5 Turbo и завершение чата
• Аудио транскрипция и перевод (Whisper API)
• Завершение чата
• По завершении видения
• Файлы
• Прекрасные мелодии
• Изображения
• Внедрения
• Модерации
• Потоковая передача ответов

Для видео прохождения блаженного веб -приложения, созданного на этой библиотеке, см.

Blazordemo_twitter.mp4

Это развернуто на страницы GitHub и доступно по адресу: Open AI UI. Источник для Blazor Web App находится на whetstone.chatgpt.blazor.app.

Примеры включают:

• Командная строка бот

Инъекция зависимости QuickStart

services . Configure < ChatGPTCredentials > ( options =>
{    
    options . ApiKey = " YOURAPIKEY " ;
    options . Organization = " YOURORGANIZATIONID " ;
} ) ;

Использовать:

services . AddHttpClient ( ) ;

или:

services . AddHttpClient < IChatGPTClient , ChatGPTClient > ( ) ;

Настройте сервис IChatGPTClient :

services . AddScoped < IChatGPTClient , ChatGPTClient > ( ) ; 

Завершение чата

Завершение чата - это особый тип завершения, который оптимизирован для чата. Они предназначены для использования в разговорном контексте.

Завершение чата QuickStart

Это показывает использование модели GPT-3.5 Turbo.

 using Whetstone . ChatGPT ;
using Whetstone . ChatGPT . Models ;

. . .

var gptRequest = new ChatGPTChatCompletionRequest
{
    Model = ChatGPT35Models . Turbo ,
    Messages = new List < ChatGPTChatCompletionMessage > ( )
        {
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . System , " You are a helpful assistant. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Who won the world series in 2020? " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . Assistant , " The Los Angeles Dodgers won the World Series in 2020. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Where was it played? " )
        } ,
    Temperature = 0.9f ,
    MaxTokens = 100
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

var response = await client . CreateChatCompletionAsync ( gptRequest ) ;

Console . WriteLine ( response ? . GetCompletionText ( ) ) ;

Модели GPT-4 также могут быть использованы при условии, что ваша учетная запись была предоставлена ​​доступа к ограниченной бета-версии.

Завершение

Завершители используют модели, чтобы ответить на широкий спектр задач, включая, помимо прочего, классификацию, анализ настроений, ответные вопросы и т. Д.

Завершение QuickStart

Это показывает прямое использование модели GPT-3.5-Turbo-Instruct без каких-либо подсказок.

Обратите внимание, CreateCompletionAsync устаревает. Используйте ChatgptChatCompletionRequest , ChatgptChatCompletionResponse и метод CreateChatCompletionAsync .

 using Whetstone . ChatGPT ;
using Whetstone . ChatGPT . Models ;

. . .

var gptRequest = new ChatGPTCompletionRequest
{
    Model =  ChatGPT35Models . Gpt35TurboInstruct ,
    Prompt = " How is the weather? "
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

var response = await client . CreateCompletionAsync ( gptRequest ) ;

Console . WriteLine ( response . GetCompletionText ( ) ) ;

GPT-3.5 не является детерминированным. Один из испытательных прогонов приведенного выше образца вернулся:

Погода может сильно различаться в зависимости от места. В целом, вы можете ожидать, что температура будет умеренной и климатом будет удобной, но всегда лучше проверить прогноз для вашей конкретной области.

Образец кода завершения

Приложение консоли AC#, которое использует завершения, доступно по адресу:

Whetstone.chatgpt.commandlinebot (Chatgpt-Marv)

Этот образец включает в себя:

• Аутентификация
• Создал запрос на завершение с помощью приглашения
• Обработка ответов на завершение

Файл QuickStart

Как создать новый файл тонкой настройки.

 List < ChatGPTTurboFineTuneLine > tuningInput = new ( ) 
{
    new ChatGPTTurboFineTuneLine ( )
        { 
            Messages = new List < ChatGPTTurboFineTuneLineMessage > ( )
            { 
                 new ( ChatGPTMessageRoles . System , " Marv is a factual chatbot that is also sarcastic. " ) ,
                 new ( ChatGPTMessageRoles . User , " What's the capital of France? " ) ,
                 new ( ChatGPTMessageRoles . Assistant , " Paris, as if everyone doesn't know that already. " )
            } ,
        } ,
    new ChatGPTTurboFineTuneLine ( )
        {
            Messages = new List < ChatGPTTurboFineTuneLineMessage > ( )
            {
                 new ( ChatGPTMessageRoles . System , " Marv is a factual chatbot that is also sarcastic. " ) ,
                 new ( ChatGPTMessageRoles . User , " Who wrote 'Romeo and Juliet'? " ) ,
                 new ( ChatGPTMessageRoles . Assistant , " Oh, just some guy named William Shakespeare. Ever heard of him? " )
            } ,
        } ,
    . . .
} ;

byte [ ] tuningText = tuningInput . ToJsonLBinary ( ) ;

string fileName = " marvin.jsonl " ;

ChatGPTUploadFileRequest ? uploadRequest = new ChatGPTUploadFileRequest
{
    File = new ChatGPTFileContent
    {
        FileName = fileName ,
        Content = tuningText
    }
} ;

ChatGPTFileInfo ? newTurboTestFile ;

using ( IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) )
{
    newTurboTestFile = await client . UploadFileAsync ( uploadRequest ) ;
} 

Прекрасная настройка QuickStart

Как только файл будет создан, получите FileID и ссылайтесь на его при создании новой тонкой настройки.

 IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

uploadedFileInfo = await client . UploadFileAsync ( uploadRequest ) ;

var fileList = await client . ListFilesAsync ( ) ;
var foundFile = fileList ? . Data ? . First ( x => x . Filename . Equals ( " marvin.jsonl " ) ) ;

ChatGPTCreateFineTuneRequest tuningRequest = new ChatGPTCreateFineTuneRequest
{
    TrainingFileId = foundFile ? . Id ,
    Model = " gpt-3.5-turbo-1106 "
} ;

ChatGPTFineTuneJob ? tuneResponse = await client . CreateFineTuneAsync ( tuningRequest ) ;

string ? fineTuneId = tuneResponse ? . Id ;

Обработка запроса на тонкую настройку займет некоторое время. После того, как он закончится, статус будет сообщать о «успешном», и он готов к использованию в запросе завершения.

 using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTFineTuneJob ? tuneResponse = await client . RetrieveFineTuneAsync ( " FINETUNEID " ) ;

if ( tuneResponse . Status . Equals ( " succeeded " ) )
{
    var gptRequest = new ChatGPTChatCompletionRequest
    {
        Model = " FINETUNEID " ,
        Messages = new List < ChatGPTChatCompletionMessage > ( )
        {
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . System , " You are a helpful assistant. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Who won the world series in 2020? " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . Assistant , " The Los Angeles Dodgers won the World Series in 2020. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Where was it played? " )
        } ,
        Temperature = 0.9f ,
        MaxTokens = 100
    } ;
    
    var response = await client . CreateChatCompletionAsync ( gptRequest ) ;

    Console . WriteLine ( response ? . GetCompletionText ( ) ) ; 

Изображение QuickStart

Вот пример, который генерирует изображение 1024x1024.

 ChatGPTCreateImageRequest imageRequest = new ( )
{
    Prompt = " A sail boat " ,
    Size = CreatedImageSize . Size1024 ,
    ResponseFormat = CreatedImageFormat . Base64
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTImageResponse ? imageResponse = await client . CreateImageAsync ( imageRequest ) ;

var imageData = imageResponse ? . Data ? [ 0 ] ;

if ( imageData != null )
{
    byte [ ] ? imageBytes = await client . DownloadImageAsync ( imageData ) ;
} 

Аудио транскрипция QuickStart

Ее пример, который транскрибирует аудиофайл с помощью шепота.

 string audioFile = @"audiofilestranscriptiontest.mp3" ;

byte [ ] fileContents = File . ReadAllBytes ( audioFile ) ;
ChatGPTFileContent gptFile = new ChatGPTFileContent
{
    FileName = audioFile ,
    Content = fileContents
} ;

ChatGPTAudioTranscriptionRequest ? transcriptionRequest = new ChatGPTAudioTranscriptionRequest
{
    File = gptFile
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTAudioResponse ? audioResponse = await client . CreateTranscriptionAsync ( transcriptionRequest , true ) ;

Console . WriteLine ( audioResponse ? . Text ) ;