Arcee AI a publié aujourd'hui son modèle de langage à grande échelle de 70 milliards de paramètres SuperNova, un modèle d'IA qui peut être déployé au sein d'une entreprise et conçu pour répondre aux préoccupations de l'entreprise concernant la confidentialité des données, la stabilité et la personnalisation des modèles. Contrairement aux services basés sur des API tels qu'OpenAI et Anthropic, SuperNova permet aux entreprises de déployer et de personnaliser des modèles sur leur propre infrastructure, avec un contrôle total. L'éditeur de Downcodes vous donnera une explication détaillée de l'innovation technologique de SuperNova, des méthodes de déploiement, des capacités de personnalisation et de son impact sur les stratégies d'IA d'entreprise.
Arcee AI a lancé aujourd'hui SuperNova, un modèle de langage de 70 milliards de paramètres qui offre un déploiement en entreprise, des capacités avancées de suivi de commandes et des options de personnalisation complètes. Le modèle est conçu pour fournir une alternative puissante et abordable aux problèmes clés liés aux services basés sur des API tels qu'OpenAI et Anthropic pour la confidentialité des données d'entreprise, la stabilité du modèle et la personnalisation.
Dans un espace d'IA dominé par les API cloud, Arcee AI adopte une approche différente avec SuperNova. Ce modèle de langage étendu (LLM) peut être déployé et personnalisé au sein de la propre infrastructure d'une entreprise. SuperNova, publié aujourd'hui, est basé sur l'architecture Llama-3.1-70B-Instruct de Meta et présente ce que Arcee prétend être des capacités supérieures de suivi des instructions et un nouveau processus post-formation qui s'adapte aux besoins spécifiques de l'entreprise.
innovation technologique
Le développement de SuperNova implique une approche post-formation multiforme
Lucas Atkins, l'ingénieur principal du projet, a révélé le secret : "Nous avons formé trois modèles, un distillé à partir de l'essence de Llama405B, un alimenté en grande quantité avec l'ensemble de données généré par notre EvolKit et un avec un DPO profond sur la transformation Llama3instruct. Enfin , nous les avons combinés avec une nouvelle magie qui a conservé les super pouvoirs de chaque modèle.
Arcee affirme que cela contribue aux capacités de suivi de commandes de SuperNova, en particulier la distillation du modèle paramétrique 405B, ce qui montre non seulement que SuperNova peut capturer l'essence de modèles plus grands tout en conservant un déploiement matériel modeste.
Déploiement et personnalisation en entreprise
SuperNova est conçu pour être déployé dans le propre environnement cloud d'une entreprise et sera d'abord disponible sur AWS Marketplace. Arcee travaille également à le rendre disponible sur les places de marché Google et Azure.
Mark McQuade, co-fondateur d'Arcee AI, souligne les avantages de cette approche de déploiement : « Le modèle est déployé dans votre VPC AWS, mais il fait également tourner un serveur Web, une interface de discussion et une base de données pour stocker votre historique de discussion. Organisation Tout le monde peut interagir intimement avec elle.
Cette méthode de déploiement répond aux préoccupations des entreprises concernant la confidentialité des données et la stabilité des modèles. Contrairement aux services basés sur des API qui peuvent changer sans préavis, SuperNova donne aux entreprises un contrôle total. McQuade a noté que cela est particulièrement important compte tenu des récentes turbulences dans l'industrie de l'IA : « OpenAI vient de se débarrasser de la version 3.5... De nombreuses entreprises ont construit leur activité autour de l'API 3.5. Ainsi, une fois que cette API change, votre application est en panne. dans "Dans notre monde, rien ne change à moins que vous ne vouliez que cela change, car c'est votre modèle et votre façon de le gérer."
Personnalisation et amélioration continue
L’un des arguments de vente de SuperNova est sa capacité à être perfectionné et recyclé dans un environnement d’entreprise.
Atkins explique le processus et ses avantages : « Au fil du temps, nous pouvons entièrement reformuler le modèle dans votre propre environnement pour mieux correspondre à vos préférences. Au fur et à mesure que nous enregistrons ces discussions, si vous souhaitez que le modèle soit basé sur vos préférences uniques en tant qu'entreprise, amélioré à tous les niveaux, et nous avons la capacité de le faire sans que les données ne quittent votre système.
Cette capacité permet aux équipes techniques d'adapter les modèles aux connaissances spécifiques au domaine ou aux exigences spécifiques de l'entreprise. Il s'agit d'un énorme avantage par rapport aux services API basés sur le cloud qui ne permettent généralement pas ce niveau de personnalisation.
Composants open source
Bien que le modèle 70B complet ne soit pas open source, Arcee publie plusieurs composants pour la communauté des développeurs :
API gratuite pour les tests et l'évaluation : cela permet aux développeurs d'essayer SuperNova sans s'engager dans un déploiement complet.
SuperNova-Lite : Une version open source du modèle avec des paramètres 8B. Ce modèle plus petit peut être utile pour les développeurs travaillant dans des environnements aux ressources limitées ou pour ceux qui souhaitent comprendre l'architecture avant de déployer le modèle complet.
EvolKit : leur pipeline de génération d'ensembles de données pour créer des paires d'assurance qualité complexes. Cet outil peut s'avérer précieux pour les organisations cherchant à créer des données de formation personnalisées pour leurs cas d'utilisation spécifiques.
En open source ces composants, Arcee contribue à la communauté plus large de l'IA tout en fournissant également aux clients potentiels des outils pour évaluer et personnaliser leurs produits. Arcee SuperNova est également disponible sur AWS Marketplace.
Allégations de performance et points de référence
Arcee affirme que SuperNova fonctionne bien dans divers domaines, notamment le raisonnement mathématique. "Celui-ci réussit très bien aux tests mathématiques", a noté Atkins. "Cependant, l'entreprise encourage les évaluations tierces pour vérifier leurs affirmations.
"Nous fournirons une API que les utilisateurs pourront utiliser. S'il existe des tiers qui souhaitent exécuter des tests de référence fiables pour s'évaluer eux-mêmes, nous pouvons prendre des dispositions pour leur fournir un accès aux pondérations. Nous souhaitons une transparence totale dans ce modèle Atkins." dit .
Cette ouverture à l'évaluation par des tiers est louable car elle permet une vérification indépendante des affirmations de l'Arcee. Il sera particulièrement intéressant de voir comment SuperNova se comporte par rapport aux benchmarks standards par rapport aux modèles de grandes sociétés d'IA telles que OpenAI, Anthropic et autres.
L’impact des stratégies d’IA d’entreprise
La sortie de SuperNova intervient à un moment où de nombreuses entreprises réévaluent leurs stratégies d'IA. Même si les services API basés sur le cloud ont toujours dominé cet espace, les modèles déployables et personnalisables qui offrent plus de contrôle et de flexibilité suscitent un intérêt croissant.
L’approche de SuperNova résout plusieurs problèmes clés :
Le dilemme de la souveraineté de l’IA
Alors que les entreprises évoluent dans le paysage de l'IA en évolution rapide, la sortie de SuperNova met en lumière une tension croissante dans le secteur : le compromis entre la commodité et la puissance des services d'IA basés sur le cloud et le contrôle et la personnalisation fournis par les modèles déployables. Cette dichotomie présente ce que nous pourrions appeler le « dilemme de la souveraineté de l’IA ».
D'une part, les services API basés sur le cloud comme GPT-4 et Claude offrent des performances de pointe et des mises à jour continues, mais au prix de problèmes de confidentialité des données et d'une personnalisation limitée. D'un autre côté, des modèles comme SuperNova promettent un contrôle et une personnalisation complets, mais nécessitent une expertise interne pour leur déploiement et leur maintenance.
L'approche d'Arcee avec SuperNova vise à combler cette lacune, en fournissant un modèle qui peut être déployé sur site tout en offrant des fonctionnalités conçues pour rivaliser avec les principaux services basés sur le cloud. Cette approche hybride peut être particulièrement attractive pour les secteurs soumis à des exigences réglementaires strictes ou ceux qui traitent des données très sensibles.
Blog officiel : https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
Dans l'ensemble, SuperNova d'Arcee AI offre aux entreprises une nouvelle façon de déployer et de personnaliser l'IA, offrant des avantages significatifs en termes de confidentialité des données, de stabilité des modèles et de personnalisation. Bien que son déploiement et sa maintenance nécessitent un certain investissement technique, ses avantages à long terme et son impact positif sur les stratégies d’IA des entreprises méritent l’attention. L’émergence de SuperNova offre également aux entreprises de nouvelles options face au « dilemme de la souveraineté de l’IA ».