whetstone.chatgpt

Whetstone.chatgpt

Uma biblioteca simples e leve que envolve a API de IA aberta com suporte para injeção de dependência.

Os recursos suportados incluem:

• GPT 4, GPT 3.5 Turbo e conclusões de bate -papo
• Transcrição de áudio e tradução (API Whisper)
• Conclusões do bate -papo
• Conclusão da visão
• Arquivos
• Músicas finas
• Imagens
• Incorporação
• Moderações
• Streaming de resposta

Para um passo a passo de vídeo de um aplicativo da Web Blazor construído nesta biblioteca, consulte:

Blazordemo_twitter.mp4

Isso é implantado nas páginas do GitHub e disponível em: Open AI UI. A fonte do aplicativo da Web Blazor está em whetstone.chatgpt.blazor.app.

Exemplos incluem:

• Bot da linha de comando

Injeção de dependência Investir rápido

services . Configure < ChatGPTCredentials > ( options =>
{    
    options . ApiKey = " YOURAPIKEY " ;
    options . Organization = " YOURORGANIZATIONID " ;
} ) ;

Usar:

services . AddHttpClient ( ) ;

ou:

services . AddHttpClient < IChatGPTClient , ChatGPTClient > ( ) ;

Configure o serviço IChatGPTClient :

services . AddScoped < IChatGPTClient , ChatGPTClient > ( ) ; 

Conclusões do bate -papo

As conclusões do bate -papo são um tipo especial de conclusão que é otimizado para bate -papo. Eles foram projetados para serem usados ​​em um contexto de conversação.

Conclusão do chat QuickStart

Isso mostra um uso do modelo GPT-3.5 Turbo.

 using Whetstone . ChatGPT ;
using Whetstone . ChatGPT . Models ;

. . .

var gptRequest = new ChatGPTChatCompletionRequest
{
    Model = ChatGPT35Models . Turbo ,
    Messages = new List < ChatGPTChatCompletionMessage > ( )
        {
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . System , " You are a helpful assistant. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Who won the world series in 2020? " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . Assistant , " The Los Angeles Dodgers won the World Series in 2020. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Where was it played? " )
        } ,
    Temperature = 0.9f ,
    MaxTokens = 100
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

var response = await client . CreateChatCompletionAsync ( gptRequest ) ;

Console . WriteLine ( response ? . GetCompletionText ( ) ) ;

Os modelos GPT-4 também podem ser usados, desde que sua conta tenha recebido acesso à versão beta limitada.

Conclusão

As conclusões usam modelos para responder a uma ampla variedade de tarefas, incluindo, entre outros, classificação, análise de sentimentos, respondendo a perguntas etc.

Conclusão QuickStart

Isso mostra um uso direto do modelo GPT-3.5-Turbo-Instruct sem prompts.

Observe que o CreateCompletionSync é obsoleto. Use ChatGptChatCompletionRequest , ChatGptChatCompletionResponse e o método CreateChatCompletionAsync .

 using Whetstone . ChatGPT ;
using Whetstone . ChatGPT . Models ;

. . .

var gptRequest = new ChatGPTCompletionRequest
{
    Model =  ChatGPT35Models . Gpt35TurboInstruct ,
    Prompt = " How is the weather? "
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

var response = await client . CreateCompletionAsync ( gptRequest ) ;

Console . WriteLine ( response . GetCompletionText ( ) ) ;

O GPT-3.5 não é determinístico. Uma das execuções de teste da amostra acima retornou:

O tempo pode variar muito, dependendo da localização. Em geral, você pode esperar que as temperaturas sejam moderadas e o clima seja confortável, mas é sempre melhor verificar a previsão da sua área específica.

Amostra de código de conclusão

Aplicativo de console AC# que usa conclusões está disponível em:

Whetstone.chatgpt.commandlinebot (chatgpt-marv)

Esta amostra inclui:

• Autenticação
• Criou uma solicitação de conclusão usando um prompt
• Respostas de conclusão de processamento

Arquive o QuickStart

Como criar um upload um novo arquivo de ajuste fino.

 List < ChatGPTTurboFineTuneLine > tuningInput = new ( ) 
{
    new ChatGPTTurboFineTuneLine ( )
        { 
            Messages = new List < ChatGPTTurboFineTuneLineMessage > ( )
            { 
                 new ( ChatGPTMessageRoles . System , " Marv is a factual chatbot that is also sarcastic. " ) ,
                 new ( ChatGPTMessageRoles . User , " What's the capital of France? " ) ,
                 new ( ChatGPTMessageRoles . Assistant , " Paris, as if everyone doesn't know that already. " )
            } ,
        } ,
    new ChatGPTTurboFineTuneLine ( )
        {
            Messages = new List < ChatGPTTurboFineTuneLineMessage > ( )
            {
                 new ( ChatGPTMessageRoles . System , " Marv is a factual chatbot that is also sarcastic. " ) ,
                 new ( ChatGPTMessageRoles . User , " Who wrote 'Romeo and Juliet'? " ) ,
                 new ( ChatGPTMessageRoles . Assistant , " Oh, just some guy named William Shakespeare. Ever heard of him? " )
            } ,
        } ,
    . . .
} ;

byte [ ] tuningText = tuningInput . ToJsonLBinary ( ) ;

string fileName = " marvin.jsonl " ;

ChatGPTUploadFileRequest ? uploadRequest = new ChatGPTUploadFileRequest
{
    File = new ChatGPTFileContent
    {
        FileName = fileName ,
        Content = tuningText
    }
} ;

ChatGPTFileInfo ? newTurboTestFile ;

using ( IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) )
{
    newTurboTestFile = await client . UploadFileAsync ( uploadRequest ) ;
} 

Ajuste fino Investir rápido

Depois que o arquivo for criado, obtenha o FileId e faça referência ao criar uma nova ajuste fina.

 IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

uploadedFileInfo = await client . UploadFileAsync ( uploadRequest ) ;

var fileList = await client . ListFilesAsync ( ) ;
var foundFile = fileList ? . Data ? . First ( x => x . Filename . Equals ( " marvin.jsonl " ) ) ;

ChatGPTCreateFineTuneRequest tuningRequest = new ChatGPTCreateFineTuneRequest
{
    TrainingFileId = foundFile ? . Id ,
    Model = " gpt-3.5-turbo-1106 "
} ;

ChatGPTFineTuneJob ? tuneResponse = await client . CreateFineTuneAsync ( tuningRequest ) ;

string ? fineTuneId = tuneResponse ? . Id ;

O processamento da solicitação de ajuste fino levará algum tempo. Quando terminar, o status relatará "terminado" e está pronto para ser usado em uma solicitação de conclusão.

 using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTFineTuneJob ? tuneResponse = await client . RetrieveFineTuneAsync ( " FINETUNEID " ) ;

if ( tuneResponse . Status . Equals ( " succeeded " ) )
{
    var gptRequest = new ChatGPTChatCompletionRequest
    {
        Model = " FINETUNEID " ,
        Messages = new List < ChatGPTChatCompletionMessage > ( )
        {
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . System , " You are a helpful assistant. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Who won the world series in 2020? " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . Assistant , " The Los Angeles Dodgers won the World Series in 2020. " ) ,
            new ChatGPTChatCompletionMessage ( ChatGPTMessageRoles . User , " Where was it played? " )
        } ,
        Temperature = 0.9f ,
        MaxTokens = 100
    } ;
    
    var response = await client . CreateChatCompletionAsync ( gptRequest ) ;

    Console . WriteLine ( response ? . GetCompletionText ( ) ) ; 

Imagem QuickStart

Aqui está um exemplo que gera uma imagem de 1024x1024.

 ChatGPTCreateImageRequest imageRequest = new ( )
{
    Prompt = " A sail boat " ,
    Size = CreatedImageSize . Size1024 ,
    ResponseFormat = CreatedImageFormat . Base64
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTImageResponse ? imageResponse = await client . CreateImageAsync ( imageRequest ) ;

var imageData = imageResponse ? . Data ? [ 0 ] ;

if ( imageData != null )
{
    byte [ ] ? imageBytes = await client . DownloadImageAsync ( imageData ) ;
} 

Transcrição de áudio Investir rápido

É um exemplo que transcreve um arquivo de áudio usando o sussurro.

 string audioFile = @"audiofilestranscriptiontest.mp3" ;

byte [ ] fileContents = File . ReadAllBytes ( audioFile ) ;
ChatGPTFileContent gptFile = new ChatGPTFileContent
{
    FileName = audioFile ,
    Content = fileContents
} ;

ChatGPTAudioTranscriptionRequest ? transcriptionRequest = new ChatGPTAudioTranscriptionRequest
{
    File = gptFile
} ;

using IChatGPTClient client = new ChatGPTClient ( " YOURAPIKEY " ) ;

ChatGPTAudioResponse ? audioResponse = await client . CreateTranscriptionAsync ( transcriptionRequest , true ) ;

Console . WriteLine ( audioResponse ? . Text ) ;