IntelliNode

Integrasi Prompt, Evaluasi, dan Produksi Terpadu untuk Setiap Model Besar

Node Cerdas

Intellinode adalah modul JavaScript yang mengintegrasikan AI mutakhir ke dalam proyek Anda. Dengan fungsi intuitifnya, Anda dapat dengan mudah memberi makan data ke model seperti chatgpt , llama , wavenet , gemini dan difusi stabil dan menerima teks, ucapan, atau gambar yang dihasilkan. Ini juga menawarkan fungsi tingkat tinggi seperti pencarian semantik, evaluasi multi-model, dan kemampuan chatbot.

Mengakses modul

Memasang

Satu perintah dan dapatkan akses ke model terbaru:

 npm i intellinode

Untuk instruksi penggunaan terperinci, lihat dokumentasi.

Contoh

Gen

Fungsi Gen dengan cepat menghasilkan konten yang disesuaikan dalam satu baris.

impor:

 const { Gen } = require ( 'intellinode' ) ;

panggilan:

 // one line to generate html page code (openai gpt4 is default)
text = 'a registration page with flat modern theme.'
await Gen . save_html_page ( text , folder , file_name , openaiKey ) ; 

 // or generate blog post (using cohere)
const blogPost = await Gen . get_blog_post ( prompt , apiKey , provider = 'cohere' ) ;

Chatbot

impor:

 const { Chatbot , ChatGPTInput } = require ( 'intellinode' ) ;

panggilan:

 // set chatGPT system mode and the user message.
const input = new ChatGPTInput ( 'You are a helpful assistant.' ) ;
input . addUserMessage ( 'What is the distance between the Earth and the Moon?' ) ;

// get chatGPT responses.
const chatbot = new Chatbot ( OPENAI_API_KEY , 'openai' ) ;
const responses = await chatbot . chat ( input ) ;

Gemini Chatbot

Intellinode memungkinkan pertukaran yang mudah antara model AI.

1. Impor:

 const { Chatbot , GeminiInput , SupportedChatModels } = require ( 'intellinode' ) ;

2. panggilan:

 const input = new GeminiInput ( ) ;
input . addUserMessage ( 'Who painted the Mona Lisa?' ) ;

const geminiBot = new Chatbot ( apiKey , SupportedChatModels . GEMINI ) ;
const responses = await geminiBot . chat ( input ) ;

Dokumentasi untuk mengganti penyedia chatbot antara Chatgpt, Llama, Cohere, Mistral dan banyak lagi dapat ditemukan di Intellinode Wiki.

Pencarian semantik

impor:

 const { SemanticSearch } = require ( 'intellinode' ) ;

panggilan:

 const search = new SemanticSearch ( apiKey ) ;
// pivotItem is the item to search.
const results = await search . getTopMatches ( pivotItem , searchArray , numberOfMatches ) ;
const filteredArray = search . filterTopMatches ( results , searchArray )

Teknik yang cepat

Menghasilkan prompt yang ditingkatkan menggunakan LLMS:

 const promptTemp = await Prompt . fromChatGPT ( "fantasy image with ninja jumping across buildings" , openaiApiKey ) ;
console . log ( promptTemp . getInput ( ) ) ;

Model bahasa

impor:

 const { RemoteLanguageModel , LanguageModelInput } = require ( 'intellinode' ) ;

Hubungi Model OpenAI:

 const langModel = new RemoteLanguageModel ( 'openai-key' , 'openai' ) ;
model_name = 'gpt-3.5-turbo-instruct'

const results = await langModel . generateText ( new LanguageModelInput ( {
  prompt : 'Write a product description for smart plug that works with voice assistant.' ,
  model : model_name ,
  temperature : 0.7
} ) ) ;

console . log ( 'Generated text:' , results [ 0 ] ) ;

Ubah untuk memanggil model cohere:

 const langModel = new RemoteLanguageModel ( 'cohere-key' , 'cohere' ) ;
model_name = 'command-xlarge-20221108'
// ... same code

Model gambar

impor:

 const { RemoteImageModel , SupportedImageModels , ImageModelInput } = require ( 'intellinode' ) ;

Hubungi Dall · E:

 provider = SupportedImageModels . OPENAI ;

const imgModel = new RemoteImageModel ( apiKey , provider ) ;
const images = await imgModel . generateImages ( new ImageModelInput ( {
    prompt : 'teddy writing a blog in times square' ,
    numberOfImages : 1
} ) ) ;

Ubah untuk memanggil difusi stabil:

 provider = SupportedImageModels . STABILITY ;
// ... same code

Akses Lanjutan Openai

Untuk mengakses Layanan OpenAI dari akun Azure Anda, Anda harus memanggil fungsi berikut di awal aplikasi Anda:

 const { ProxyHelper } = require ( 'intellinode' ) ;
ProxyHelper . getInstance ( ) . setAzureOpenai ( resourceName ) ;

Untuk mengakses OpenAi dari proxy untuk daerah terbatas:

 ProxyHelper . getInstance ( ) . setOpenaiProxyValues ( openaiProxyJson ) ;

Untuk detail lebih lanjut dan kode mendalam, periksa sampelnya.

Pengaturan Repositori Kode

Pengaturan pertama

1. Memulai proyek:

 cd IntelliNode
npm install

2. Buat file .env dengan tombol akses:
   

 OPENAI_API_KEY=<key_value>
COHERE_API_KEY=<key_value>
GOOGLE_API_KEY=<key_value>
STABILITY_API_KEY=<key_value>
HUGGING_API_KEY=<key_value>

Kasus uji

1. Jalankan Model Bahasa Jarak Jauh Kasus Uji: node test/integration/RemoteLanguageModel.test.js

2. Jalankan Model Gambar Jarak Jauh Kasus Uji: node test/integration/RemoteImageModel.test.js

3. Jalankan Kasus Uji Model Bicara Jarak Jauh: node test/integration/RemoteSpeechModel.test.js

4. Jalankan kasus uji embedding: node test/integration/RemoteEmbedModel.test.js

5. Jalankan Kasus Uji Chatbot: node test/integration/Chatbot.test.js

Dokumentasi

• Intellinode Wiki: Periksa halaman wiki untuk instruksi indepet dan kasus penggunaan praktis.
• Showcase: Nikmati potensi Intellinode yang sedang beraksi, dan gunakan kunci Anda untuk menghasilkan konten dan halaman HTML.
• Sampel: Jelajahi sampel kode dengan dokumentasi pengaturan terperinci untuk memulai dengan Intellinode.
• Evaluasi Model: Menunjukkan pendekatan cepat untuk membandingkan kinerja beberapa model dengan jawaban target yang ditunjuk.
• Pencarian Semantik: Pencarian semantik dalam memori dengan iterator melalui data besar.

Pilar

Yayasan Modul:

• Lapisan pembungkus menyediakan akses tingkat rendah ke model AI terbaru
• Lapisan pengontrol menawarkan input terpadu ke model AI apa pun dengan menangani perbedaan. Jadi, Anda dapat beralih di antara model seperti OpenAi dan cohere tanpa mengubah kode.
• Lapisan fungsi menyediakan fungsionalitas abstrak yang meluas berdasarkan kasus penggunaan aplikasi. Misalnya, chatbot yang mudah digunakan atau utilitas pembuatan konten pemasaran.

Peta jalan

Hubungi Kontributor: Formulir Pendaftaran.

• Tambahkan dukungan ke Openai Completion & GPT4.
• Tambahkan dukungan ke Openai Dall · E 2.
• Tambahkan dukungan ke fungsi openai lainnya.
• Tambahkan dukungan ke cohere menghasilkan model.
• Tambahkan dukungan ke model bahasa Google.
• Tambahkan dukungan ke Google Speech Model.
• Tambahkan dukungan ke penempatan pribadi Llama AWS.
• Tambahkan dukungan ke Antropik Claude.
• Tambahkan dukungan untuk generasi gambar tengah jurnal.
• Tambahkan dukungan ke difusi yang stabil.
• Tambahkan dukungan untuk memeluk inferensi wajah.
• Tambahkan lebih banyak fungsi tingkat tinggi seperti pencarian semantik, evaluasi, dll.

Lisensi

Lisensi Apache

Hak Cipta 2023 github.com/barqawiz/intellinode

Berlisensi di bawah lisensi Apache, versi 2.0 ("lisensi"); Anda tidak boleh menggunakan file ini kecuali sesuai dengan lisensi. Anda dapat memperoleh salinan lisensi di

   http://www.apache.org/licenses/LICENSE-2.0

Kecuali diharuskan oleh hukum yang berlaku atau disepakati secara tertulis, perangkat lunak yang didistribusikan di bawah lisensi didistribusikan berdasarkan "sebagaimana adanya", tanpa jaminan atau ketentuan dalam bentuk apa pun, baik tersurat maupun tersirat. Lihat lisensi untuk bahasa spesifik yang mengatur izin dan batasan di bawah lisensi.