AI21LABS baru -baru ini merilis model bahasa besar seri 1.6 Seri 1.6 terbarunya, yang dikenal sebagai model pemrosesan teks panjang yang paling kuat dan efisien di pasaran. Dibandingkan dengan model transformator tradisional, model Jamba menunjukkan kecepatan dan kualitas yang lebih tinggi ketika berhadapan dengan konteks yang panjang, dan kecepatan inferensi 2,5 kali lebih cepat daripada model serupa, menandai terobosan teknologi baru.
Seri JAMBA 1.6 termasuk Jamba Mini (1,2 miliar parameter) dan Jamba Large (9,4 miliar parameter), dan dioptimalkan untuk aplikasi komersial, dengan panggilan fungsi, output terstruktur (seperti JSON) dan kemampuan generasi berbasis realitas. Model-model ini memiliki berbagai aplikasi, mulai dari asisten cerdas tingkat perusahaan hingga penelitian akademik, dan dapat memainkan peran penting.
Model ini mengadopsi perjanjian lisensi open source yang disebut lisensi model terbuka JAMBA, yang memungkinkan pengguna untuk melakukan penelitian dan penggunaan komersial berdasarkan premis mengikuti persyaratan yang relevan. Selain itu, seri Jamba1.6 memiliki tenggat waktu pengetahuan 5 Maret 2024 dan mendukung berbagai bahasa, termasuk bahasa Inggris, Spanyol, Prancis, Portugis, Italia, Belanda, Jerman, Arab dan Ibrani, memastikan bahwa ia beradaptasi dengan kebutuhan pengguna di seluruh dunia.
Dalam hal evaluasi kinerja, Jamba besar 1.6 berkinerja baik dalam beberapa tolok ukur. Dalam tes standar seperti Arena Hard, Crag dan Financebench, skor mereka melampaui pesaing mereka, menunjukkan pemahaman bahasa dan kemampuan generasi yang luar biasa. Model Jamba sangat menonjol dalam menangani teks panjang.
Untuk memastikan inferensi yang efisien, pengguna yang menggunakan model JAMBA perlu menginstal pustaka Python yang relevan terlebih dahulu dan perangkat CUDA diperlukan untuk mendukung pengoperasian model. Pengguna dapat menjalankan model melalui kerangka kerja VLLM atau Transformers. Dengan dukungan GPU skala besar, Jamba Large 1.6 dapat menangani konteks hingga 256k, yang tidak dimungkinkan dalam model sebelumnya.
Model: https://huggingface.co/ai21labs/ai21-jamba-large-1.6
Poin -Poin Kunci:
Model Jamba1.6 lebih cepat dan lebih berkualitas untuk pemrosesan teks panjang dan mendukung berbagai bahasa.
Perjanjian lisensi open source memungkinkan penelitian dan penggunaan komersial dan memfasilitasi berbagi teknologi.
Mengungguli produk yang bersaing dalam berbagai tolok ukur.