IntelliNode

Integración de aviso, evaluación e producción unificados a cualquier modelo grande

Nodo inteligente

Intellinode es un módulo JavaScript que integra AI de vanguardia en su proyecto. Con sus funciones intuitivas, puede alimentar fácilmente datos a modelos como ChatGPT , LLAMA , Wavenet , Géminis y difusión estable y recibir texto, habla o imágenes generados. También ofrece funciones de alto nivel, como búsqueda semántica, evaluación de múltiples modelos y capacidades de chatbot.

Acceder al módulo

Instalar

Un comando y obtener acceso a los últimos modelos:

 npm i intellinode

Para obtener instrucciones de uso detalladas, consulte la documentación.

Ejemplos

Género

La función Gen genera rápidamente contenido personalizado en una línea.

importar:

 const { Gen } = require ( 'intellinode' ) ;

llamar:

 // one line to generate html page code (openai gpt4 is default)
text = 'a registration page with flat modern theme.'
await Gen . save_html_page ( text , folder , file_name , openaiKey ) ; 

 // or generate blog post (using cohere)
const blogPost = await Gen . get_blog_post ( prompt , apiKey , provider = 'cohere' ) ;

Chatbot

importar:

 const { Chatbot , ChatGPTInput } = require ( 'intellinode' ) ;

llamar:

 // set chatGPT system mode and the user message.
const input = new ChatGPTInput ( 'You are a helpful assistant.' ) ;
input . addUserMessage ( 'What is the distance between the Earth and the Moon?' ) ;

// get chatGPT responses.
const chatbot = new Chatbot ( OPENAI_API_KEY , 'openai' ) ;
const responses = await chatbot . chat ( input ) ;

Géminis chatbot

Intellinode permite intercambio sin esfuerzo entre los modelos de IA.

1. Importaciones:

 const { Chatbot , GeminiInput , SupportedChatModels } = require ( 'intellinode' ) ;

2. llamar:

 const input = new GeminiInput ( ) ;
input . addUserMessage ( 'Who painted the Mona Lisa?' ) ;

const geminiBot = new Chatbot ( apiKey , SupportedChatModels . GEMINI ) ;
const responses = await geminiBot . chat ( input ) ;

La documentación para cambiar el proveedor de chatbot entre ChatGPT, Llama, Cohere, Mistral y más se puede encontrar en el Wiki Intellinode.

Búsqueda semántica

importar:

 const { SemanticSearch } = require ( 'intellinode' ) ;

llamar:

 const search = new SemanticSearch ( apiKey ) ;
// pivotItem is the item to search.
const results = await search . getTopMatches ( pivotItem , searchArray , numberOfMatches ) ;
const filteredArray = search . filterTopMatches ( results , searchArray )

Ingeniería rápida

Genere indicaciones mejoradas usando LLM:

 const promptTemp = await Prompt . fromChatGPT ( "fantasy image with ninja jumping across buildings" , openaiApiKey ) ;
console . log ( promptTemp . getInput ( ) ) ;

Modelos de idiomas

importar:

 const { RemoteLanguageModel , LanguageModelInput } = require ( 'intellinode' ) ;

Llame al modelo Openai:

 const langModel = new RemoteLanguageModel ( 'openai-key' , 'openai' ) ;
model_name = 'gpt-3.5-turbo-instruct'

const results = await langModel . generateText ( new LanguageModelInput ( {
  prompt : 'Write a product description for smart plug that works with voice assistant.' ,
  model : model_name ,
  temperature : 0.7
} ) ) ;

console . log ( 'Generated text:' , results [ 0 ] ) ;

Cambiar para llamar a los modelos Cohere:

 const langModel = new RemoteLanguageModel ( 'cohere-key' , 'cohere' ) ;
model_name = 'command-xlarge-20221108'
// ... same code

Modelos de imágenes

importar:

 const { RemoteImageModel , SupportedImageModels , ImageModelInput } = require ( 'intellinode' ) ;

Llame a Dall · E:

 provider = SupportedImageModels . OPENAI ;

const imgModel = new RemoteImageModel ( apiKey , provider ) ;
const images = await imgModel . generateImages ( new ImageModelInput ( {
    prompt : 'teddy writing a blog in times square' ,
    numberOfImages : 1
} ) ) ;

Cambio para llamar a la difusión estable:

 provider = SupportedImageModels . STABILITY ;
// ... same code

Acceso avanzado de OpenAI

Para acceder a los servicios de OperaI desde su cuenta de Azure, debe llamar a la siguiente función al comienzo de su aplicación:

 const { ProxyHelper } = require ( 'intellinode' ) ;
ProxyHelper . getInstance ( ) . setAzureOpenai ( resourceName ) ;

Para acceder a OpenAI desde un proxy para regiones restringidas:

 ProxyHelper . getInstance ( ) . setOpenaiProxyValues ( openaiProxyJson ) ;

Para obtener más detalles y código en profundidad, consulte las muestras.

La configuración del repositorio de código

Primera configuración

1. Iniciar el proyecto:

 cd IntelliNode
npm install

2. Cree un archivo .env con las claves de acceso:
   

 OPENAI_API_KEY=<key_value>
COHERE_API_KEY=<key_value>
GOOGLE_API_KEY=<key_value>
STABILITY_API_KEY=<key_value>
HUGGING_API_KEY=<key_value>

Casos de prueba

1. Ejecute los casos de prueba de modelos de idiomas remotos: node test/integration/RemoteLanguageModel.test.js

2. Ejecute los modelos de imagen remotos Casos de prueba: node test/integration/RemoteImageModel.test.js

3. Ejecute los casos de prueba de modelos de voz remotos: node test/integration/RemoteSpeechModel.test.js

4. Ejecute los casos de prueba de incrustación: node test/integration/RemoteEmbedModel.test.js

5. Ejecute los casos de prueba de chatbot: node test/integration/Chatbot.test.js

Documentación

• Intellinode Wiki: consulte la página Wiki para obtener instrucciones independientes y casos de uso práctico.
• Showcase: experimente el potencial de Intellinode en acción y use sus claves para generar contenido y páginas HTML.
• Muestras: explore una muestra de código con documentación de configuración detallada para comenzar con Intellinode.
• Evaluación del modelo: demuestre un enfoque rápido para comparar el rendimiento de múltiples modelos con respuestas objetivo designadas.
• Búsqueda semántica: búsqueda semántica en memoria con iterador sobre grandes datos.

Pilares

La base del módulo:

• La capa de envoltura proporciona acceso de bajo nivel a los últimos modelos de IA
• La capa del controlador ofrece una entrada unificada a cualquier modelo de IA al manejar las diferencias. Por lo tanto, puede cambiar entre modelos como OpenAI y Cohere sin cambiar el código.
• La capa de funciones proporciona funcionalidad abstracta que se extiende en función de los casos de uso de la aplicación. Por ejemplo, un chatbot fácil de usar o utilidades de generación de contenido de marketing.

Hoja de ruta

Llame a los contribuyentes: formulario de registro.

• Agregue soporte para la finalización de OpenAI y GPT4.
• Agregue soporte a OpenAi Dall · E 2.
• Agregue soporte a otras funciones de OpenAI.
• Agregue soporte a Cohere Generar modelos.
• Agregue soporte a los modelos de idiomas de Google.
• Agregue soporte a los modelos de discurso de Google.
• Agregue soporte a Llama AWS Despliegue privado.
• Agregue soporte a Claude antrópico.
• Agregue soporte a la generación de imágenes de Midjourney.
• Agregue soporte a la difusión estable.
• Agregue soporte para abrazar la inferencia facial.
• Agregue más funciones de alto nivel como búsqueda semántica, evaluación, etc.

Licencia

Licencia de apache

Copyright 2023 github.com/barqawiz/intellinode

Licenciado bajo la licencia Apache, versión 2.0 (la "licencia"); No puede usar este archivo, excepto de conformidad con la licencia. Puede obtener una copia de la licencia en

   http://www.apache.org/licenses/LICENSE-2.0

A menos que la ley aplicable sea requerida o acordado por escrito, el software distribuido bajo la licencia se distribuye de manera "como es", sin garantías o condiciones de ningún tipo, ya sea expresas o implícitas. Consulte la licencia para los permisos y limitaciones de rigor de idioma específico bajo la licencia.