Arcee AI는 오늘 기업 내에 배포할 수 있고 데이터 개인 정보 보호, 모델 안정성 및 사용자 정의에 대한 기업의 우려 사항을 해결하도록 설계된 AI 모델인 700억 매개변수 대규모 언어 모델 SuperNova를 출시했습니다. OpenAI 및 Anthropic과 같은 API 기반 서비스와 달리 SuperNova를 사용하면 기업은 완벽한 제어를 통해 자체 인프라에 모델을 배포하고 사용자 정의할 수 있습니다. Downcodes의 편집자는 SuperNova의 기술 혁신, 배포 방법, 사용자 정의 기능 및 기업 AI 전략에 미치는 영향에 대한 자세한 설명을 제공합니다.
Arcee AI는 오늘 엔터프라이즈 배포, 고급 명령 따르기 기능 및 전체 사용자 정의 옵션을 제공하는 700억 매개변수 언어 모델인 SuperNova를 출시했습니다. 이 모델은 기업 데이터 개인 정보 보호, 모델 안정성 및 사용자 정의를 위해 OpenAI 및 Anthropic과 같은 API 기반 서비스의 주요 문제에 대한 강력하고 저렴한 대안을 제공하도록 설계되었습니다.
클라우드 API가 지배하는 AI 공간에서 Arcee AI는 SuperNova를 통해 다른 접근 방식을 취하고 있습니다. 이 LLM(대규모 언어 모델)은 기업 자체 인프라 내에서 배포하고 사용자 정의할 수 있습니다. 오늘 출시된 SuperNova는 Meta의 Llama-3.1-70B-Instruct 아키텍처를 기반으로 하며 Arcee가 주장하는 뛰어난 지시 따르기 기능과 특정 비즈니스 요구에 적응하는 새로운 사후 교육 프로세스를 특징으로 합니다.
기술 혁신
SuperNova의 개발에는 다각적인 사후 훈련 접근 방식이 포함됩니다.
프로젝트의 수석 엔지니어인 Lucas Atkins는 다음과 같이 비밀을 밝혔습니다. "우리는 Llama405B의 본질에서 추출한 모델, EvolKit에서 생성된 데이터 세트를 사용하여 대량 공급한 모델, Llama3instruct 변환에 대한 심층 DPO를 사용하여 모델 세 가지를 훈련했습니다. 마지막으로 , 우리는 이를 각 모델의 초능력을 유지하는 새로운 마법과 결합했습니다.”
Arcee는 이것이 SuperNova의 명령 따르기 기능, 특히 405B 파라메트릭 모델의 추출에 기여한다고 주장합니다. 이는 SuperNova가 적절한 하드웨어 배치를 유지하면서 더 큰 모델의 본질을 포착할 수 있음을 보여줄 뿐만 아니라.
엔터프라이즈 배포 및 사용자 정의
SuperNova는 기업의 자체 클라우드 환경에 배포되도록 설계되었으며 AWS Marketplace에서 먼저 제공될 예정입니다. Arcee는 또한 Google 및 Azure 마켓플레이스에서 사용할 수 있도록 노력하고 있습니다.
Arcee AI의 공동 창립자인 Mark McQuade는 이 배포 접근 방식의 이점을 다음과 같이 강조합니다. "모델은 AWS VPC에 배포되지만 웹 서버, 채팅 인터페이스 및 채팅 기록을 저장하기 위한 데이터베이스도 가동됩니다. 조직 모든 사람이 긴밀하게 상호작용할 수 있습니다.”
이 배포 방법은 데이터 개인 정보 보호 및 모델 안정성에 대한 기업의 우려를 해결합니다. 예고 없이 변경될 수 있는 API 기반 서비스와 달리 SuperNova는 기업에 완전한 제어권을 제공합니다. McQuade는 최근 AI 업계의 혼란을 고려할 때 이것이 특히 중요하다고 지적했습니다. "OpenAI는 방금 3.5를 버렸습니다. 많은 회사가 3.5 API를 중심으로 비즈니스를 구축했습니다. 따라서 API가 변경되면 애플리케이션이 손상됩니다. 하지만 "우리 세상에서는 당신이 변화를 원하지 않는 한 아무것도 변하지 않습니다. 왜냐하면 그것이 당신의 모델이고 당신의 실행 방식이기 때문입니다."
맞춤화 및 지속적인 개선
SuperNova의 판매 포인트 중 하나는 기업 환경에서 미세 조정하고 재교육할 수 있는 능력입니다.
Atkins는 프로세스와 그 이점을 다음과 같이 설명합니다. "시간이 지남에 따라 우리는 귀하의 선호도에 더 잘 일치하도록 귀하의 환경에서 모델을 완전히 재교육할 수 있습니다. 이러한 채팅을 저장하면서 모델이 기업으로서 귀하의 고유한 선호도를 기반으로 하도록 하려는 경우 전반적으로 개선되었으며 데이터가 시스템 외부로 나가지 않고도 이를 수행할 수 있는 능력이 있습니다.”
이 기능을 통해 기술 팀은 도메인별 지식이나 회사별 요구 사항에 맞게 모델을 조정할 수 있습니다. 이는 일반적으로 이러한 수준의 사용자 정의를 허용하지 않는 클라우드 기반 API 서비스에 비해 큰 이점입니다.
오픈 소스 구성 요소
전체 70B 모델은 오픈 소스가 아니지만 Arcee는 개발자 커뮤니티를 위해 여러 구성 요소를 출시합니다.
테스트 및 평가를 위한 무료 API: 이를 통해 개발자는 전체 배포를 확정하지 않고도 SuperNova를 사용해 볼 수 있습니다.
SuperNova-Lite: 8B 매개변수를 갖춘 모델의 오픈 소스 버전입니다. 이 작은 모델은 리소스가 제한된 환경에서 작업하는 개발자나 전체 모델을 배포하기 전에 아키텍처를 이해하려는 개발자에게 유용할 수 있습니다.
EvolKit: 복잡한 QA 쌍을 생성하기 위한 데이터 세트 생성 파이프라인입니다. 이 도구는 특정 사용 사례에 맞는 맞춤형 교육 데이터를 생성하려는 조직에 유용할 수 있습니다.
이러한 구성 요소를 오픈 소스화함으로써 Arcee는 더 넓은 AI 커뮤니티에 기여하는 동시에 잠재 고객에게 제품을 평가하고 맞춤화할 수 있는 도구를 제공합니다. Arcee SuperNova는 AWS Marketplace에서도 사용할 수 있습니다.
성능 주장 및 벤치마크
Arcee는 SuperNova가 다양한 분야, 특히 수학적 추론에서 좋은 성능을 발휘한다고 주장합니다. Atkins는 "이것은 수학 벤치마크에서 정말 좋은 결과를 보여줍니다."라고 말했습니다. "그러나 회사는 그들의 주장을 검증하기 위해 제3자 평가를 권장합니다.
"우리는 사람들이 사용할 수 있는 API를 제공할 것입니다. 신뢰할 수 있는 벤치마크를 실행하여 자체 평가를 원하는 제3자가 있는 경우 가중치에 대한 액세스 권한을 제공할 수 있습니다. 우리는 이 모델에 대한 완전한 투명성을 원합니다." 말했다 .
제3자 평가에 대한 개방성은 Arcee의 주장을 독립적으로 검증할 수 있다는 점에서 칭찬할 만합니다. OpenAI, Anthropic 등과 같은 주요 AI 회사의 모델과 비교하여 SuperNova가 표준 벤치마크에서 어떻게 수행되는지 보는 것은 특히 흥미로울 것입니다.
엔터프라이즈 AI 전략의 영향
SuperNova의 출시는 많은 기업이 AI 전략을 재평가하고 있는 시기에 이루어졌습니다. 클라우드 기반 API 서비스가 항상 이 분야를 지배해 왔지만 더 많은 제어력과 유연성을 제공하는 배포 가능하고 사용자 정의 가능한 모델에 대한 관심이 높아지고 있습니다.
SuperNova의 접근 방식은 다음과 같은 몇 가지 주요 문제를 해결합니다.
AI 주권 딜레마
기업이 빠르게 진화하는 AI 환경을 탐색함에 따라 SuperNova의 출시는 업계에서 점점 커지고 있는 긴장을 조명합니다. 즉, 클라우드 기반 AI 서비스의 편리성과 성능과 배포 가능한 모델이 제공하는 제어 및 사용자 정의 간의 균형이 필요합니다. 이러한 이분법은 우리가 "AI 주권 딜레마"라고 부를 수 있는 것을 제시합니다.
한편, GPT-4 및 Claude와 같은 클라우드 기반 API 서비스는 최첨단 성능과 지속적인 업데이트를 제공하지만 데이터 개인 정보 보호 문제와 제한된 사용자 정의 비용이 듭니다. 반면 SuperNova와 같은 모델은 완전한 제어 및 사용자 정의를 보장하지만 배포 및 유지 관리에는 내부 전문 지식이 필요합니다.
Arcee의 SuperNova 접근 방식은 선도적인 클라우드 기반 서비스와 경쟁할 수 있도록 설계된 기능을 제공하면서 온프레미스에 배포할 수 있는 모델을 제공하여 이러한 격차를 해소하는 것입니다. 이러한 하이브리드 접근 방식은 규제 요구 사항이 엄격하거나 매우 민감한 데이터를 처리하는 산업에 특히 매력적일 수 있습니다.
공식 블로그: https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
전체적으로 Arcee AI의 SuperNova는 기업에 AI를 배포하고 맞춤화하는 새로운 방법을 제공하여 데이터 개인 정보 보호, 모델 안정성 및 맞춤화 가능성에 상당한 이점을 제공합니다. 구축 및 유지 관리를 위해 일정 수준의 기술 투자가 필요하지만, 장기적인 이점과 기업 AI 전략에 미치는 긍정적인 영향은 주목할 만합니다. SuperNova의 출현은 기업에게 "AI 주권 딜레마"에 대한 새로운 옵션을 제공합니다.