ai.js

Ai.js

AI.js - самый простой способ добавить текст AI, изображения, встраивание и векторный поиск в приложение Node.js.

 await AI ( "the color of the sky is" ) ; // blue

await AI . Image ( "a red rose" ) ; // <image buffer: red rose>

await AI . Image . Concept ( "a red rose" ) ; // {prompt: a red rose in realist style, watercolor ...", <image buffer>}

await AI . Embeddings ( "hello world" ) ; // Array(384)

const db = new AI . VectorDB ( ) ;
await db . add ( "red" ) ;
await db . add ( "blue" ) ;
await db . search ( "redish" ) // red

Под капюшоном AI.js плавно интегрирует простые в использовании локальные и удаленные APIS

• Текст: llm.js Используйте GPT-4 , Gemini , Claude , Mistral или LLaMa в том же простом интерфейсе
• Изображение Stable Diffusion Stability AI Replicate
• Mistral : local OpenAI
• Vectordb: vectordb.js ищет аналогичные встроенные в памяти
• Аудио: скоро наступит
• Видео: скоро появится

Функции

• Простой в использовании
• Тот же простой интерфейс для сотен моделей (OpenAI, Google, Anpropic, Mistral, Llama, Replicate, Ai Stability, обнимающееся лицо и многое другое)
• Работает локально и в автономном режиме по умолчанию!
• Предлагает лучшие в своем классе варианты с помощью удаленных API
• Advanced LLM-функции, такие как одноразовые подсказки, история чата, схема потоковой передачи и JSON и многое другое
• Генерация изображений с использованием лучших открытых и платных моделей
• Концепции изображений, чтобы легко комбинировать LLM с генераторами изображений для впечатляющих результатов
• Простые в использовании текстовых встроений и поиска векторов в памяти
• MIT Лицензия

Установка

Установите AI.js через NPM

npm install @themaximalist/ai.js

Включить хотя бы одну услугу, установив ее среду API_KEY

 export OPENAI_API_KEY=sk-...
export ANTHROPIC_API_KEY=sk-ant-...
export GOOGLE_API_KEY=sk-ant-...
export STABILITY_API_KEY=sk-...
export REPLICATE_API_KEY=sk-....
export MISTRAL_API_KEY=...

LLM

Интерфейс по умолчанию - текст. AI.js позволяет отправлять одноразовые запросы или создавать сложные истории сообщений с большой языковой моделью (LLM).

 const AI = require ( "@themaximalist/ai.js" ) ;
await AI ( "what is the codeword?" ) ; // i don't know any codewords

const ai = new AI ( "the codeword is blue" ) ;
await ai . chat ( "what is the codeword?" ) ; // blue

Режим AI.js по умолчанию - LLM и работает поверх LLM.JS. Пожалуйста, смотрите этот сайт для полной документации, которая также относится к AI.js

Есть много функций, поддерживаемых десятками популярных моделей, таких как потоковая передача, поддержка JSON, MAX_TOKENS, температура, семена и многое другое.

Изображения

AI.js обеспечивает мощные функции генерации изображений с помощью Automatic1111 , StabilityAI и Replicate . Убедитесь, что при необходимости убедитесь, что у вас есть настройка услуг, либо работаю локально, либо действительную переменную среды.

 const image = await AI . Image ( "a red rose" ) ;
fs . writeFileSync ( "rose.png" , image ) ;

См. Imagine.js для всей документации генератора изображений.

Представьте себе концепции

AI.js также предоставляет концептуальную генератор - способ использования LLMS вместе с генераторами изображений.

 const { prompt , buffer } = await AI . Image . Concept ( "a red rose" ) ;
console . log ( prompt ) ; // a red rose in realist style, watercolor ..."
fs . writeFileSync ( "complex-rose.png" , buffer ) ;

Это достигает вашего поставщика LLM и генерирует сложную подсказку изображения, прежде чем отправлять его в службу генерации изображений.

Внедрения

AI.js позволяет вам легко генерировать локальные или удаленные встраивания с использованием Embeddings.js .

 const embeddings = await AI . Embeddings ( "hello world" ) ; // embedding array

Он работает с местными встраиваниями, Openai и Mistral.

Встроения могут использоваться в любой векторной базе данных, такой как Pinecone, Chroma, PG -вектор и т. Д.

См. Embeddings.js для всех вариантов.

Векторный поиск

AI.js позволяет вам быстро найти подобные текстовые строки, используя векторную базу данных.

Он работает в памяти и может использовать встраивания от AI.js

Чтобы найти подобные строки, добавьте несколько в базу данных, а затем поиск.

 const db = new AI . VectorDB ( ) ;

await db . add ( "orange" ) ;
await db . add ( "blue" ) ;

const result = await db . search ( "light orange" ) ;
// [ { input: 'orange', distance: 0.3109036684036255 } ]

См. Vectordb.js для полной документации.

API

AI.js включает эти субпроекты:

• LLM.JS - простой интерфейс с десятками крупных языковых моделей
• Imagine.js - локальная и отдаленная библиотека генерации изображений
• Enceddings.js - простые местные или открытые текстовые встроения
• Vectordb.js - локальный поиск сходства текста

Проверьте каждый отдельный проект для полной документации API.

Их можно использовать индивидуально или вместе, как в AI.js

Отлаживать

AI.js использует модуль NPM debug во всех его подпроектах.

Пространство имен - это строчная версия названия проекта.

Просмотреть журналы отладки, установив переменную среды DEBUG .

 > DEBUG=llm.js *
> node src/run_ai.js
# debug logs

Вы можете объединить несколько журналов с запятой.

 > DEBUG=llm.js * ,imagine.js * ,embeddings.js * ,vectordb.js *
> node src/run_ai.js
# debug all logs 

Проекты

AI.js в настоящее время используется в следующих проектах:

• Arcade Infinity - Играйте в любую текстовую приключенческую игру

Лицензия

Грань

Автор

Созданный максималистом, см. Наши проекты с открытым исходным кодом.