Arcee AI lançou hoje seu modelo de linguagem de grande escala SuperNova com 70 bilhões de parâmetros, um modelo de IA que pode ser implantado em uma empresa e foi projetado para atender às preocupações empresariais sobre privacidade de dados, estabilidade de modelo e personalização. Ao contrário dos serviços baseados em API, como OpenAI e Anthropic, o SuperNova permite que as empresas implantem e personalizem modelos em sua própria infraestrutura, com controle total. O editor de Downcodes fornecerá uma explicação detalhada da inovação tecnológica, métodos de implantação, recursos de personalização do SuperNova e seu impacto nas estratégias corporativas de IA.
Arcee AI lançou hoje o SuperNova, um modelo de linguagem de 70 bilhões de parâmetros que oferece implantação empresarial, recursos avançados de seguimento de comandos e opções completas de personalização. O modelo foi projetado para fornecer uma alternativa poderosa e acessível para problemas importantes com serviços baseados em API, como OpenAI e Anthropic, para privacidade de dados corporativos, estabilidade de modelo e personalização.
Em um espaço de IA dominado por APIs em nuvem, a Arcee AI está adotando uma abordagem diferente com o SuperNova. Este grande modelo de linguagem (LLM) pode ser implantado e personalizado dentro da própria infraestrutura de uma empresa. SuperNova, lançado hoje, é baseado na arquitetura Llama-3.1-70B-Instruct da Meta e apresenta o que Arcee afirma serem recursos superiores de acompanhamento de instruções e um novo processo pós-treinamento que se adapta às necessidades específicas do negócio.
inovação tecnológica
O desenvolvimento do SuperNova envolve uma abordagem pós-treinamento multifacetada
Lucas Atkins, o engenheiro-chefe do projeto, revelou o segredo: “Treinamos três modelos, um destilado da essência do Llama405B, um alimentado com o conjunto de dados gerado pelo nosso EvolKit e um com DPO profundo na transformação do Llama3instruct. , nós os combinamos com uma nova magia que manteve os superpoderes de cada modelo.”
Arcee afirma que isso contribui para as capacidades de seguimento de comandos do SuperNova, especialmente a destilação do modelo paramétrico 405B, que não apenas mostra que o SuperNova pode capturar a essência de modelos maiores, mantendo uma implementação modesta de hardware.
Implantação e personalização corporativa
O SuperNova foi projetado para ser implantado no ambiente de nuvem da própria empresa e estará disponível primeiro no AWS Marketplace. Arcee também está trabalhando para disponibilizá-lo nos mercados Google e Azure.
Mark McQuade, cofundador da Arcee AI, destaca os benefícios dessa abordagem de implantação: “O modelo é implantado em seu AWS VPC, mas também ativa um servidor web, uma interface de bate-papo e um banco de dados para armazenar seu histórico de bate-papo. Organização Todos podem interagir intimamente com ela.”
Este método de implantação resolve as preocupações das empresas sobre privacidade de dados e estabilidade de modelo. Ao contrário dos serviços baseados em API que podem mudar sem aviso prévio, o SuperNova oferece às empresas controle total. McQuade observou que isso é especialmente importante dada a recente turbulência na indústria de IA: "OpenAI acabou de descartar 3.5...Muitas empresas construíram seus negócios em torno da API 3.5. Então, uma vez que a API muda, seu aplicativo está quebrado. Mas em "Em nosso mundo, nada muda a menos que você queira que mude, porque é o seu modelo e a sua maneira de administrá-lo."
Personalização e melhoria contínua
Um dos pontos de venda do SuperNova é a sua capacidade de ser aperfeiçoado e retreinado num ambiente empresarial.
Atkins explica o processo e seus benefícios: "Com o tempo, podemos retreinar o modelo inteiramente em seu próprio ambiente para melhor atender às suas preferências. À medida que salvamos esses bate-papos, se você deseja que o modelo seja baseado em Suas preferências exclusivas como empresa são melhorado em todos os aspectos e temos a capacidade de fazer isso sem que os dados saiam do seu sistema.”
Esse recurso permite que as equipes técnicas adaptem modelos ao conhecimento específico do domínio ou aos requisitos específicos da empresa. Esta é uma enorme vantagem sobre os serviços de API baseados em nuvem que normalmente não permitem esse nível de personalização.
Componentes de código aberto
Embora o modelo 70B completo não seja de código aberto, a Arcee está lançando vários componentes para a comunidade de desenvolvedores:
API gratuita para teste e avaliação: permite que os desenvolvedores experimentem o SuperNova sem se comprometer com a implantação completa.
SuperNova-Lite: Uma versão de código aberto do modelo com parâmetros 8B. Este modelo menor pode ser útil para desenvolvedores que trabalham em ambientes com recursos limitados ou para aqueles que desejam compreender a arquitetura antes de implantar o modelo completo.
EvolKit: seu pipeline de geração de conjunto de dados para criar pares complexos de controle de qualidade. Essa ferramenta pode ser valiosa para organizações que buscam criar dados de treinamento personalizados para seus casos de uso específicos.
Ao abrir o código-fonte desses componentes, a Arcee contribui para a comunidade mais ampla de IA, ao mesmo tempo que fornece aos clientes em potencial ferramentas para avaliar e personalizar seus produtos. Arcee SuperNova também está disponível no AWS Marketplace.
Reivindicações de desempenho e benchmarks
Arcee afirma que o SuperNova tem um bom desempenho em diversas áreas, especialmente no raciocínio matemático. “Este se sai muito bem em benchmarks matemáticos”, observou Atkins. “No entanto, a empresa incentiva avaliações de terceiros para verificar suas afirmações.
"Forneceremos uma API para as pessoas usarem. Se houver terceiros que desejam executar benchmarks confiáveis para se avaliarem, podemos fornecer-lhes acesso aos pesos. Queremos ter total transparência neste modelo." disse .
Esta abertura à avaliação de terceiros é louvável porque permite a verificação independente das afirmações da Arcee. Será particularmente interessante ver o desempenho do SuperNova em benchmarks padrão em comparação com modelos de empresas líderes de IA, como OpenAI, Anthropic e outras.
O impacto das estratégias empresariais de IA
O lançamento do SuperNova ocorre num momento em que muitas empresas estão reavaliando suas estratégias de IA. Embora os serviços de API baseados em nuvem sempre tenham dominado esse espaço, há um interesse crescente em modelos implantáveis e personalizáveis que oferecem mais controle e flexibilidade.
A abordagem da SuperNova resolve vários problemas importantes:
Dilema da soberania da IA
À medida que as empresas navegam no cenário de IA em rápida evolução, o lançamento do SuperNova lança luz sobre uma tensão crescente na indústria: o compromisso entre a conveniência e o poder dos serviços de IA baseados na nuvem versus o controlo e a personalização fornecidos por modelos implementáveis. Esta dicotomia apresenta o que poderíamos chamar de “dilema da soberania da IA”.
Por um lado, serviços API baseados em nuvem, como GPT-4 e Claude, oferecem desempenho de última geração e atualizações contínuas, mas ao custo de problemas de privacidade de dados e personalização limitada. Por outro lado, modelos como o SuperNova prometem controle e personalização totais, mas exigem experiência interna para implantação e manutenção.
A abordagem da Arcee com o SuperNova busca preencher essa lacuna, fornecendo um modelo que pode ser implantado no local e, ao mesmo tempo, fornecendo recursos projetados para competir com os principais serviços baseados em nuvem. Esta abordagem híbrida pode ser particularmente atractiva para indústrias com requisitos regulamentares rigorosos ou aquelas que lidam com dados altamente sensíveis.
Blog oficial: https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
Resumindo, o SuperNova da Arcee AI oferece às empresas uma nova maneira de implantar e personalizar IA, proporcionando vantagens significativas em privacidade de dados, estabilidade de modelo e capacidade de personalização. Embora exija um certo investimento técnico para implementação e manutenção, os seus benefícios a longo prazo e o impacto positivo nas estratégias empresariais de IA merecem atenção. O surgimento da SuperNova também oferece às empresas novas opções no “dilema da soberania da IA”.