IntelliNode

Prompt, avaliação e integração de produção unificada para qualquer modelo grande

Nó inteligente

O Intellinode é um módulo JavaScript que integra a IA de ponta no seu projeto. Com suas funções intuitivas, você pode facilmente alimentar dados para modelos como ChatGPT , LLAMA , WAVENET , GEMINI e Difusão estável e receber texto gerado, fala ou imagens geradas. Ele também oferece funções de alto nível, como pesquisa semântica, avaliação de vários modelos e recursos de chatbot.

Acesse o módulo

Instalar

Um comando e obtenha acesso aos modelos mais recentes:

 npm i intellinode

Para obter instruções de uso detalhadas, consulte a documentação.

Exemplos

Gen

A função Gen gera rapidamente conteúdo personalizado em uma linha.

importar:

 const { Gen } = require ( 'intellinode' ) ;

chamar:

 // one line to generate html page code (openai gpt4 is default)
text = 'a registration page with flat modern theme.'
await Gen . save_html_page ( text , folder , file_name , openaiKey ) ; 

 // or generate blog post (using cohere)
const blogPost = await Gen . get_blog_post ( prompt , apiKey , provider = 'cohere' ) ;

Chatbot

importar:

 const { Chatbot , ChatGPTInput } = require ( 'intellinode' ) ;

chamar:

 // set chatGPT system mode and the user message.
const input = new ChatGPTInput ( 'You are a helpful assistant.' ) ;
input . addUserMessage ( 'What is the distance between the Earth and the Moon?' ) ;

// get chatGPT responses.
const chatbot = new Chatbot ( OPENAI_API_KEY , 'openai' ) ;
const responses = await chatbot . chat ( input ) ;

Gêmeos chatbot

O Intellinode permite a troca sem esforço entre os modelos de IA.

1. importações:

 const { Chatbot , GeminiInput , SupportedChatModels } = require ( 'intellinode' ) ;

2. chamar:

 const input = new GeminiInput ( ) ;
input . addUserMessage ( 'Who painted the Mona Lisa?' ) ;

const geminiBot = new Chatbot ( apiKey , SupportedChatModels . GEMINI ) ;
const responses = await geminiBot . chat ( input ) ;

A documentação para alternar o provedor de chatbot entre chatgpt, llama, coere, Mistral e muito mais pode ser encontrado no Wiki Intellinode.

Pesquisa semântica

importar:

 const { SemanticSearch } = require ( 'intellinode' ) ;

chamar:

 const search = new SemanticSearch ( apiKey ) ;
// pivotItem is the item to search.
const results = await search . getTopMatches ( pivotItem , searchArray , numberOfMatches ) ;
const filteredArray = search . filterTopMatches ( results , searchArray )

Engenharia rápida

Gerar instruções aprimoradas usando LLMS:

 const promptTemp = await Prompt . fromChatGPT ( "fantasy image with ninja jumping across buildings" , openaiApiKey ) ;
console . log ( promptTemp . getInput ( ) ) ;

Modelos de idiomas

importar:

 const { RemoteLanguageModel , LanguageModelInput } = require ( 'intellinode' ) ;

Ligue para o modelo OpenAI:

 const langModel = new RemoteLanguageModel ( 'openai-key' , 'openai' ) ;
model_name = 'gpt-3.5-turbo-instruct'

const results = await langModel . generateText ( new LanguageModelInput ( {
  prompt : 'Write a product description for smart plug that works with voice assistant.' ,
  model : model_name ,
  temperature : 0.7
} ) ) ;

console . log ( 'Generated text:' , results [ 0 ] ) ;

Mudar para chamar modelos Coere:

 const langModel = new RemoteLanguageModel ( 'cohere-key' , 'cohere' ) ;
model_name = 'command-xlarge-20221108'
// ... same code

Modelos de imagem

importar:

 const { RemoteImageModel , SupportedImageModels , ImageModelInput } = require ( 'intellinode' ) ;

Ligue para Dall · E:

 provider = SupportedImageModels . OPENAI ;

const imgModel = new RemoteImageModel ( apiKey , provider ) ;
const images = await imgModel . generateImages ( new ImageModelInput ( {
    prompt : 'teddy writing a blog in times square' ,
    numberOfImages : 1
} ) ) ;

Mudar para chamar difusão estável:

 provider = SupportedImageModels . STABILITY ;
// ... same code

Acesso Avançado OpenAI

Para acessar os serviços do OpenAI da sua conta do Azure, você deve chamar a seguinte função no início do seu aplicativo:

 const { ProxyHelper } = require ( 'intellinode' ) ;
ProxyHelper . getInstance ( ) . setAzureOpenai ( resourceName ) ;

Para acessar o OpenAI de um proxy para regiões restritas:

 ProxyHelper . getInstance ( ) . setOpenaiProxyValues ( openaiProxyJson ) ;

Para obter mais detalhes e código detalhado, verifique as amostras.

A configuração do repositório de código

Primeira configuração

1. Iniciar o projeto:

 cd IntelliNode
npm install

2. Crie um arquivo .env com as teclas de acesso:
   

 OPENAI_API_KEY=<key_value>
COHERE_API_KEY=<key_value>
GOOGLE_API_KEY=<key_value>
STABILITY_API_KEY=<key_value>
HUGGING_API_KEY=<key_value>

Casos de teste

1. Execute os modelos de linguagem remota casos de teste: node test/integration/RemoteLanguageModel.test.js

2. Execute os modelos de imagem remota casos de teste: node test/integration/RemoteImageModel.test.js

3. Execute os modelos de fala remotos casos de teste: node test/integration/RemoteSpeechModel.test.js

4. Execute os casos de teste de incorporação: node test/integration/RemoteEmbedModel.test.js

5. Execute os casos de teste de chatbot: node test/integration/Chatbot.test.js

Documentação

• Intellinode Wiki: Verifique a página do Wiki para obter instruções independentes e casos de uso prático.
• Mostrar: Experimente o potencial do Intellinode em ação e use suas teclas para gerar páginas de conteúdo e HTML.
• Amostras: Explore uma amostra de código com documentação de configuração detalhada para começar com o Intellinode.
• Avaliação do modelo: demonstre uma abordagem rápida para comparar o desempenho de vários modelos com as respostas de destino designadas.
• Pesquisa semântica: pesquisa semântica na memória com o iterador por dados grandes.

Pilares

A fundação do módulo:

• A camada de wrapper fornece acesso de baixo nível aos modelos de IA mais recentes
• A camada do controlador oferece uma entrada unificada para qualquer modelo de IA, lidando com as diferenças. Assim, você pode alternar entre modelos como o OpenAI e coere sem alterar o código.
• A camada de função fornece funcionalidade abstrata que se estende com base nos casos de uso do aplicativo. Por exemplo, um chatbot fácil de usar ou utilitários de geração de conteúdo de marketing.

Roteiro

Ligue para os colaboradores: formulário de registro.

• Adicione suporte ao OpenAI Conclusão e GPT4.
• Adicione o suporte ao Openai Dall · E 2.
• Adicione suporte a outras funções do OpenAI.
• Adicione suporte ao coere Gere modelos.
• Adicione suporte aos modelos de linguagem do Google.
• Adicione suporte aos modelos de fala do Google.
• Adicione suporte à implantação privada da LLAMA AWS.
• Adicione suporte ao Claude Antrópico.
• Adicione suporte à geração de imagens Midjourney.
• Adicione suporte à difusão estável.
• Adicione o apoio a abraçar a inferência do rosto.
• Adicione mais funções de alto nível, como pesquisa semântica, avaliação, etc.

Licença

Licença Apache

Copyright 2023 github.com/barqawiz/Intellinode

Licenciado sob a licença Apache, versão 2.0 (a "licença"); Você não pode usar esse arquivo, exceto em conformidade com a licença. Você pode obter uma cópia da licença em

   http://www.apache.org/licenses/LICENSE-2.0

A menos que exigido pela lei aplicável ou acordada por escrito, o software distribuído pela licença é distribuído "como está", sem garantias ou condições de qualquer tipo, expressa ou implícita. Consulte a licença para o idioma específico que rege as permissões e limitações sob a licença.