Arcee AI hat heute sein 70 Milliarden Parameter umfassendes Sprachmodell SuperNova veröffentlicht, ein KI-Modell, das in einem Unternehmen eingesetzt werden kann und darauf ausgelegt ist, Unternehmensbedenken hinsichtlich Datenschutz, Modellstabilität und Anpassung auszuräumen. Im Gegensatz zu API-basierten Diensten wie OpenAI und Anthropic ermöglicht SuperNova Unternehmen die Bereitstellung und Anpassung von Modellen auf ihrer eigenen Infrastruktur mit vollständiger Kontrolle. Der Herausgeber von Downcodes gibt Ihnen eine detaillierte Erläuterung der technologischen Innovation, der Bereitstellungsmethoden, der Anpassungsmöglichkeiten und der Auswirkungen von SuperNova auf die KI-Strategien von Unternehmen.
Arcee AI hat heute SuperNova auf den Markt gebracht, ein Sprachmodell mit 70 Milliarden Parametern, das Unternehmensbereitstellung, erweiterte Funktionen zur Befehlsverfolgung und vollständige Anpassungsoptionen bietet. Das Modell soll eine leistungsstarke, kostengünstige Alternative zu wichtigen Problemen mit API-basierten Diensten wie OpenAI und Anthropic für Unternehmensdatenschutz, Modellstabilität und Anpassung bieten.
In einem KI-Bereich, der von Cloud-APIs dominiert wird, verfolgt Arcee AI mit SuperNova einen anderen Ansatz. Dieses große Sprachmodell (LLM) kann innerhalb der unternehmenseigenen Infrastruktur bereitgestellt und angepasst werden. SuperNova, das heute veröffentlicht wurde, basiert auf der Llama-3.1-70B-Instruct-Architektur von Meta und bietet laut Arcee überlegene Fähigkeiten zur Befehlsfolge und einen neuartigen Post-Training-Prozess, der sich an spezifische Geschäftsanforderungen anpasst.
technologische Innovation
Die Entwicklung von SuperNova beinhaltet einen vielschichtigen Post-Training-Ansatz
Lucas Atkins, der leitende Ingenieur des Projekts, enthüllte das Geheimnis: „Wir haben drei Modelle trainiert, eines aus der Essenz von Llama405B, eines im Großen und Ganzen mit dem von unserem EvolKit generierten Datensatz und eines mit tiefer DPO auf der Llama3instruct-Transformation. Endlich.“ , haben wir sie mit einer neuen Magie kombiniert, die die Superkräfte jedes Modells beibehält.“
Arcee behauptet, dass dies zu den Befehlsverfolgungsfähigkeiten von SuperNova beiträgt, insbesondere zur Destillation aus dem parametrischen 405B-Modell, was nicht nur zeigt, dass SuperNova die Essenz größerer Modelle erfassen und gleichzeitig einen bescheidenen Hardware-Einsatz beibehalten kann.
Unternehmensbereitstellung und -anpassung
SuperNova ist für den Einsatz in der unternehmenseigenen Cloud-Umgebung konzipiert und wird zunächst auf dem AWS Marketplace verfügbar sein. Arcee arbeitet auch daran, es auf den Marktplätzen Google und Azure verfügbar zu machen.
Mark McQuade, Mitbegründer von Arcee AI, hebt die Vorteile dieses Bereitstellungsansatzes hervor: „Das Modell wird in Ihrer AWS VPC bereitgestellt, aber es startet auch einen Webserver, eine Chat-Schnittstelle und eine Datenbank zum Speichern Ihres Chat-Verlaufs.“ Organisation Jeder kann eng damit interagieren.“
Diese Bereitstellungsmethode löst die Bedenken von Unternehmen hinsichtlich Datenschutz und Modellstabilität. Im Gegensatz zu API-basierten Diensten, die sich ohne Vorankündigung ändern können, gibt SuperNova Unternehmen die vollständige Kontrolle. McQuade merkte an, dass dies angesichts der jüngsten Turbulenzen in der KI-Branche besonders wichtig sei: „OpenAI hat gerade 3.5 abgeladen … Viele Unternehmen haben ihre Geschäfte auf der 3.5-API aufgebaut. Sobald sich diese API ändert, ist Ihre Anwendung kaputt. Aber.“ in „In unserer Welt ändert sich nichts, es sei denn, Sie möchten, dass es sich ändert, denn es ist Ihr Modell und Ihre Art, es zu betreiben.“
Anpassung und kontinuierliche Verbesserung
Eines der Verkaufsargumente von SuperNova ist seine Fähigkeit zur Feinabstimmung und Umschulung in einer Unternehmensumgebung.
Atkins erklärt den Prozess und seine Vorteile: „Mit der Zeit können wir das Modell vollständig in Ihrer eigenen Umgebung neu trainieren, um es besser an Ihre Vorlieben anzupassen. Wenn Sie möchten, dass das Modell auf Ihren individuellen Vorlieben als Unternehmen basiert, speichern wir diese Chats.“ Durchgängig verbessert, und wir sind in der Lage, dies zu tun, ohne dass die Daten Ihr System verlassen müssen.“
Diese Funktion ermöglicht es technischen Teams, Modelle an domänenspezifisches Wissen oder unternehmensspezifische Anforderungen anzupassen. Dies ist ein großer Vorteil gegenüber cloudbasierten API-Diensten, die diesen Grad an Anpassung normalerweise nicht zulassen.
Open-Source-Komponenten
Während das vollständige 70B-Modell nicht Open Source ist, veröffentlicht Arcee mehrere Komponenten für die Entwicklergemeinschaft:
Kostenlose API zum Testen und Evaluieren: Dies ermöglicht Entwicklern, SuperNova auszuprobieren, ohne sich auf eine vollständige Bereitstellung festzulegen.
SuperNova-Lite: Eine Open-Source-Version des Modells mit 8B-Parametern. Dieses kleinere Modell kann für Entwickler nützlich sein, die in Umgebungen mit eingeschränkten Ressourcen arbeiten oder die Architektur verstehen möchten, bevor sie das vollständige Modell bereitstellen.
EvolKit: Ihre Pipeline zur Datensatzgenerierung zur Erstellung komplexer QA-Paare. Dieses Tool kann für Unternehmen wertvoll sein, die benutzerdefinierte Trainingsdaten für ihre spezifischen Anwendungsfälle erstellen möchten.
Durch die Open-Source-Beschaffung dieser Komponenten leistet Arcee einen Beitrag zur breiteren KI-Community und stellt gleichzeitig potenziellen Kunden Tools zur Bewertung und Anpassung ihrer Produkte zur Verfügung. Arcee SuperNova ist auch auf AWS Marketplace verfügbar.
Leistungsansprüche und Benchmarks
Arcee behauptet, dass SuperNova in verschiedenen Bereichen gute Leistungen erbringt, insbesondere im mathematischen Denken. „Dieser schneidet bei mathematischen Benchmarks wirklich gut ab“, bemerkte Atkins. „Das Unternehmen empfiehlt jedoch die Beurteilung durch Dritte, um ihre Behauptungen zu überprüfen.“
„Wir werden den Leuten eine API zur Verfügung stellen. Wenn es Dritte gibt, die vertrauenswürdige Benchmarks durchführen möchten, um sich selbst zu bewerten, können wir dafür sorgen, dass sie Zugriff auf die Gewichte erhalten. Wir möchten vollständige Transparenz über dieses Modell haben.“ sagte .
Diese Offenheit für die Bewertung durch Dritte ist lobenswert, da sie eine unabhängige Überprüfung der Behauptungen von Arcee ermöglicht. Es wird besonders interessant sein zu sehen, wie SuperNova bei Standard-Benchmarks im Vergleich zu Modellen führender KI-Unternehmen wie OpenAI, Anthropic und anderen abschneidet.
Die Auswirkungen von KI-Strategien für Unternehmen
Die Veröffentlichung von SuperNova erfolgt zu einem Zeitpunkt, an dem viele Unternehmen ihre KI-Strategien neu bewerten. Während Cloud-basierte API-Dienste diesen Bereich schon immer dominiert haben, wächst das Interesse an einsetzbaren, anpassbaren Modellen, die mehr Kontrolle und Flexibilität bieten.
Der Ansatz von SuperNova löst mehrere Schlüsselprobleme:
Dilemma der KI-Souveränität
Während sich Unternehmen in der sich schnell entwickelnden KI-Landschaft zurechtfinden, wirft die Veröffentlichung von SuperNova ein Licht auf eine wachsende Spannung in der Branche: den Kompromiss zwischen dem Komfort und der Leistungsfähigkeit cloudbasierter KI-Dienste gegenüber der Kontrolle und Anpassung durch einsetzbare Modelle. Diese Dichotomie stellt das dar, was wir das „KI-Souveränitätsdilemma“ nennen könnten.
Einerseits bieten cloudbasierte API-Dienste wie GPT-4 und Claude modernste Leistung und kontinuierliche Updates, allerdings auf Kosten von Datenschutzproblemen und eingeschränkter Anpassungsfähigkeit. Auf der anderen Seite versprechen Modelle wie SuperNova volle Kontrolle und Anpassung, erfordern jedoch internes Fachwissen für die Bereitstellung und Wartung.
Der Ansatz von Arcee mit SuperNova zielt darauf ab, diese Lücke zu schließen und ein Modell bereitzustellen, das vor Ort bereitgestellt werden kann und gleichzeitig Funktionen bietet, die mit führenden Cloud-basierten Diensten konkurrieren können. Dieser hybride Ansatz kann besonders für Branchen mit strengen regulatorischen Anforderungen oder solchen, die hochsensible Daten verarbeiten, attraktiv sein.
Offizieller Blog: https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
Alles in allem bietet SuperNova von Arcee AI Unternehmen eine neue Möglichkeit zur Bereitstellung und Anpassung von KI und bietet erhebliche Vorteile in Bezug auf Datenschutz, Modellstabilität und Anpassbarkeit. Obwohl für die Bereitstellung und Wartung ein gewisser technischer Aufwand erforderlich ist, verdienen seine langfristigen Vorteile und positiven Auswirkungen auf die KI-Strategien von Unternehmen Beachtung. Das Aufkommen von SuperNova bietet Unternehmen auch neue Optionen im „KI-Souveränitätsdilemma“.