Arcee AI hari ini merilis model bahasa skala besar SuperNova dengan 70 miliar parameter, model AI yang dapat diterapkan dalam suatu perusahaan dan dirancang untuk mengatasi kekhawatiran perusahaan tentang privasi data, stabilitas model, dan penyesuaian. Berbeda dengan layanan berbasis API seperti OpenAI dan Anthropic, SuperNova memungkinkan perusahaan untuk menerapkan dan menyesuaikan model pada infrastruktur mereka sendiri, dengan kontrol penuh. Editor Downcodes akan memberi Anda penjelasan mendetail tentang inovasi teknologi SuperNova, metode penerapan, kemampuan penyesuaian, dan dampaknya terhadap strategi AI perusahaan.
Arcee AI hari ini meluncurkan SuperNova, model bahasa dengan 70 miliar parameter yang menawarkan penerapan di perusahaan, kemampuan mengikuti perintah tingkat lanjut, dan opsi penyesuaian penuh. Model ini dirancang untuk memberikan alternatif yang kuat dan terjangkau terhadap masalah-masalah utama pada layanan berbasis API seperti OpenAI dan Anthropic untuk privasi data perusahaan, stabilitas model, dan penyesuaian.
Di ruang AI yang didominasi oleh cloud API, Arcee AI mengambil pendekatan berbeda dengan SuperNova. Model bahasa besar (LLM) ini dapat diterapkan dan disesuaikan dalam infrastruktur perusahaan itu sendiri. SuperNova, yang dirilis hari ini, didasarkan pada arsitektur Meta Llama-3.1-70B-Instruct dan menampilkan apa yang diklaim Arcee sebagai kemampuan mengikuti instruksi yang unggul dan proses pasca-pelatihan baru yang beradaptasi dengan kebutuhan bisnis tertentu.
inovasi teknologi
Pengembangan SuperNova melibatkan pendekatan pasca-pelatihan yang memiliki banyak segi
Lucas Atkins, insinyur utama dalam proyek tersebut, mengungkapkan rahasianya: "Kami melatih tiga model, satu model yang disuling dari esensi Llama405B, satu model yang diisi dengan kumpulan data besar yang dihasilkan oleh EvolKit kami, dan satu lagi dengan DPO mendalam pada transformasi instruksi Llama3. Yang terakhir adalah , kami menggabungkannya dengan keajaiban baru yang mempertahankan kekuatan super setiap model.”
Arcee mengklaim bahwa hal ini berkontribusi pada kemampuan mengikuti perintah SuperNova, terutama penyulingan dari model parametrik 405B, yang tidak hanya menunjukkan bahwa SuperNova dapat menangkap esensi model yang lebih besar sambil mempertahankan penerapan perangkat keras yang sederhana.
Penerapan dan penyesuaian perusahaan
SuperNova dirancang untuk diterapkan di lingkungan cloud milik perusahaan dan akan tersedia pertama kali di AWS Marketplace. Arcee juga berupaya membuatnya tersedia di pasar Google dan Azure.
Mark McQuade, salah satu pendiri Arcee AI, menyoroti manfaat pendekatan penerapan ini: "Model ini diterapkan di AWS VPC Anda, namun juga menjalankan server web, antarmuka obrolan, dan database untuk menyimpan riwayat obrolan Anda. Organisasi Setiap orang dapat berinteraksi dengannya secara dekat.”
Metode penerapan ini memecahkan kekhawatiran perusahaan mengenai privasi data dan stabilitas model. Tidak seperti layanan berbasis API yang dapat berubah tanpa pemberitahuan, SuperNova memberikan kendali penuh kepada perusahaan. McQuade mencatat bahwa hal ini sangat penting mengingat gejolak baru-baru ini dalam industri AI: "OpenAI baru saja membuang 3.5...Banyak perusahaan membangun bisnis mereka berdasarkan API 3.5. Jadi, begitu API itu berubah, aplikasi Anda akan rusak. Namun dalam "Di dunia kita, tidak ada yang berubah kecuali Anda menginginkannya, karena itulah model Anda dan cara Anda menjalankannya."
Kustomisasi dan perbaikan berkelanjutan
Salah satu nilai jual SuperNova adalah kemampuannya untuk disesuaikan dan dilatih ulang dalam lingkungan perusahaan.
Atkins menjelaskan proses dan manfaatnya: "Seiring waktu, kami dapat melatih ulang model sepenuhnya di lingkungan Anda sendiri agar lebih sesuai dengan preferensi Anda. Saat kami menyimpan obrolan ini, jika Anda ingin model tersebut didasarkan pada preferensi unik Anda sebagai sebuah bisnis adalah ditingkatkan secara menyeluruh, dan kami memiliki kemampuan untuk melakukannya tanpa data meninggalkan sistem Anda.”
Kemampuan ini memungkinkan tim teknis untuk mengadaptasi model dengan pengetahuan spesifik domain atau kebutuhan spesifik perusahaan. Ini merupakan keuntungan besar dibandingkan layanan API berbasis cloud yang biasanya tidak mengizinkan penyesuaian tingkat ini.
Komponen sumber terbuka
Meskipun model 70B lengkap bukan open source, Arcee merilis beberapa komponen untuk komunitas pengembang:
API gratis untuk pengujian dan evaluasi: Hal ini memungkinkan pengembang untuk mencoba SuperNova tanpa melakukan penerapan penuh.
SuperNova-Lite: Model versi open source dengan parameter 8B. Model yang lebih kecil ini mungkin berguna bagi pengembang yang bekerja di lingkungan dengan sumber daya terbatas atau mereka yang ingin memahami arsitektur sebelum menerapkan model lengkap.
EvolKit: Saluran pembuatan kumpulan data untuk membuat pasangan QA yang kompleks. Alat ini dapat bermanfaat bagi organisasi yang ingin membuat data pelatihan khusus untuk kasus penggunaan spesifik mereka.
Dengan menjadikan komponen-komponen ini sebagai sumber terbuka, Arcee berkontribusi pada komunitas AI yang lebih luas sekaligus menyediakan alat bagi calon pelanggan untuk mengevaluasi dan menyesuaikan produk mereka. Arcee SuperNova juga tersedia di AWS Marketplace.
Klaim Kinerja dan Tolok Ukur
Arcee mengklaim SuperNova berkinerja baik di berbagai bidang, terutama penalaran matematika. “Yang ini bekerja dengan sangat baik pada tolok ukur matematika,” kata Atkins. “Namun, perusahaan mendorong evaluasi pihak ketiga untuk memverifikasi klaim mereka.
"Kami akan menyediakan API untuk digunakan orang-orang. Jika ada pihak ketiga yang ingin menjalankan tolok ukur tepercaya untuk mengevaluasi diri mereka sendiri, kami dapat mengatur agar mereka diberi akses ke bobot. Kami ingin memiliki transparansi penuh dalam model ini." dikatakan .
Keterbukaan terhadap evaluasi pihak ketiga patut dipuji karena memungkinkan dilakukannya verifikasi independen atas klaim Arcee. Akan sangat menarik untuk melihat bagaimana kinerja SuperNova pada benchmark standar dibandingkan dengan model dari perusahaan AI terkemuka seperti OpenAI, Anthropic, dan lainnya.
Dampak strategi AI perusahaan
Peluncuran SuperNova terjadi pada saat banyak perusahaan mengevaluasi ulang strategi AI mereka. Meskipun layanan API berbasis cloud selalu mendominasi bidang ini, terdapat peningkatan minat terhadap model yang dapat diterapkan dan disesuaikan serta menawarkan lebih banyak kontrol dan fleksibilitas.
Pendekatan SuperNova memecahkan beberapa masalah utama:
Dilema kedaulatan AI
Ketika perusahaan menavigasi lanskap AI yang berkembang pesat, peluncuran SuperNova menyoroti ketegangan yang semakin meningkat di industri: trade-off antara kenyamanan dan kekuatan layanan AI berbasis cloud versus kontrol dan penyesuaian yang diberikan oleh model yang dapat diterapkan. Dikotomi ini menimbulkan apa yang kita sebut sebagai “dilema kedaulatan AI”.
Di satu sisi, layanan API berbasis cloud seperti GPT-4 dan Claude menawarkan kinerja canggih dan pembaruan berkelanjutan, namun harus mengorbankan masalah privasi data dan penyesuaian terbatas. Di sisi lain, model seperti SuperNova menjanjikan kontrol dan penyesuaian penuh, namun memerlukan keahlian internal untuk menerapkan dan memelihara.
Pendekatan Arcee dengan SuperNova berupaya menjembatani kesenjangan ini, dengan menyediakan model yang dapat diterapkan secara lokal sambil tetap memberikan kemampuan yang dirancang untuk bersaing dengan layanan berbasis cloud terkemuka. Pendekatan hibrid ini mungkin sangat menarik bagi industri dengan persyaratan peraturan yang ketat atau industri yang menangani data yang sangat sensitif.
Blog resmi: https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
Secara keseluruhan, SuperNova dari Arcee AI memberi perusahaan cara baru untuk menerapkan dan menyesuaikan AI, memberikan keuntungan signifikan dalam privasi data, stabilitas model, dan kemampuan penyesuaian. Meskipun memerlukan sejumlah investasi teknis untuk penerapan dan pemeliharaan, manfaat jangka panjang dan dampak positifnya terhadap strategi AI perusahaan patut mendapat perhatian. Kemunculan SuperNova juga memberi perusahaan opsi baru dalam “dilema kedaulatan AI”.