Arcee AI сегодня выпустила свою крупномасштабную языковую модель SuperNova с 70 миллиардами параметров, модель искусственного интеллекта, которая может быть развернута на предприятии и предназначена для решения проблем предприятий, связанных с конфиденциальностью данных, стабильностью модели и настройкой. В отличие от сервисов на основе API, таких как OpenAI и Anthropic, SuperNova позволяет предприятиям развертывать и настраивать модели в своей собственной инфраструктуре с полным контролем. Редактор Downcodes даст вам подробное объяснение технологических инноваций SuperNova, методов развертывания, возможностей настройки и их влияния на корпоративные стратегии искусственного интеллекта.
Arcee AI сегодня выпустила SuperNova, языковую модель с 70 миллиардами параметров, которая предлагает корпоративное развертывание, расширенные возможности выполнения команд и полные возможности настройки. Модель разработана, чтобы предоставить мощную и доступную альтернативу ключевым проблемам сервисов на основе API, таких как OpenAI и Anthropic, для обеспечения конфиденциальности корпоративных данных, стабильности модели и настройки.
В сфере искусственного интеллекта, где доминируют облачные API, Arcee AI использует другой подход с SuperNova. Эту большую языковую модель (LLM) можно развернуть и настроить в собственной инфраструктуре предприятия. SuperNova, выпущенная сегодня, основана на архитектуре Meta Llama-3.1-70B-Instruct и обладает, как утверждает Арси, превосходными возможностями следования инструкциям и новым процессом постобучения, который адаптируется к конкретным потребностям бизнеса.
технологические инновации
Разработка SuperNova предполагает многогранный посттренировочный подход.
Лукас Аткинс, ведущий инженер проекта, раскрыл секрет: «Мы обучили три модели: одну, извлеченную из сути Llama405B, другую, насыщенную набором данных, сгенерированным нашим EvolKit, и одну с глубоким DPO для преобразования Llama3instruct. , мы объединили их с новой магией, которая сохранила сверхспособности каждой модели».
Арси утверждает, что это способствует возможностям SuperNova по отслеживанию команд, особенно на основе параметрической модели 405B, которая не только показывает, что SuperNova может уловить суть более крупных моделей, сохраняя при этом скромное развертывание оборудования.
Корпоративное развертывание и настройка
SuperNova предназначена для развертывания в собственной облачной среде предприятия и сначала будет доступна на AWS Marketplace. Arcee также работает над тем, чтобы сделать его доступным на торговых площадках Google и Azure.
Марк Маккуэйд, соучредитель Arcee AI, подчеркивает преимущества такого подхода к развертыванию: «Эта модель развертывается в вашем AWS VPC, но она также запускает веб-сервер, интерфейс чата и базу данных для хранения истории вашего чата. Организация. Каждый может с ней тесно взаимодействовать».
Этот метод развертывания решает проблемы предприятий по поводу конфиденциальности данных и стабильности модели. В отличие от сервисов на основе API, которые могут быть изменены без предварительного уведомления, SuperNova предоставляет предприятиям полный контроль. Маккуэйд отметил, что это особенно важно, учитывая недавние потрясения в индустрии искусственного интеллекта: «OpenAI только что отказался от версии 3.5… Многие компании построили свой бизнес на API версии 3.5. Поэтому, как только этот API изменится, ваше приложение сломается. Но в «В нашем мире ничего не меняется, если вы не хотите, чтобы это изменилось, потому что это ваша модель и ваш способ ее применения».
Кастомизация и постоянное улучшение
Одним из преимуществ SuperNova является возможность тонкой настройки и переобучения в корпоративной среде.
Аткинс объясняет процесс и его преимущества: «Со временем мы можем полностью переобучить модель в вашей среде, чтобы она лучше соответствовала вашим предпочтениям. улучшено по всем направлениям, и у нас есть возможность сделать это, не выходя из вашей системы».
Эта возможность позволяет техническим группам адаптировать модели к знаниям, специфичным для предметной области, или требованиям конкретной компании. Это огромное преимущество перед облачными API-сервисами, которые обычно не допускают такого уровня настройки.
Компоненты с открытым исходным кодом
Хотя полная модель 70B не имеет открытого исходного кода, Arcee выпускает несколько компонентов для сообщества разработчиков:
Бесплатный API для тестирования и оценки. Это позволяет разработчикам опробовать SuperNova, не прибегая к полному развертыванию.
SuperNova-Lite: версия модели с открытым исходным кодом и параметрами 8B. Эта уменьшенная модель может быть полезна для разработчиков, работающих в средах с ограниченными ресурсами, или для тех, кто хочет понять архитектуру перед развертыванием полной модели.
EvolKit: их конвейер генерации наборов данных для создания сложных пар контроля качества. Этот инструмент может быть полезен для организаций, желающих создавать собственные обучающие данные для своих конкретных случаев использования.
Открыв исходный код этих компонентов, Arcee вносит свой вклад в более широкое сообщество искусственного интеллекта, а также предоставляет потенциальным клиентам инструменты для оценки и настройки их продуктов. Arcee SuperNova также доступна на AWS Marketplace.
Заявления о производительности и тесты производительности
Арси утверждает, что SuperNova хорошо работает в различных областях, особенно в математических рассуждениях. «Этот компьютер действительно хорошо справляется с математическими тестами», — отметил Аткинс. «Однако компания поощряет сторонние оценки для проверки их утверждений.
«Мы предоставим API для использования людьми. Если есть третьи лица, которые захотят провести надежные тесты для самооценки, мы можем предоставить им доступ к весам. Мы хотим обеспечить полную прозрачность этой модели Аткинса». сказал .
Такая открытость для оценок третьих сторон похвальна, поскольку позволяет провести независимую проверку утверждений Арси. Будет особенно интересно посмотреть, как SuperNova работает в стандартных тестах по сравнению с моделями ведущих компаний в области искусственного интеллекта, таких как OpenAI, Anthropic и других.
Влияние корпоративных стратегий искусственного интеллекта
Выпуск SuperNova произошел в то время, когда многие компании пересматривают свои стратегии в области искусственного интеллекта. Хотя облачные API-сервисы всегда доминировали в этой сфере, растет интерес к развертываемым, настраиваемым моделям, которые предлагают больше контроля и гибкости.
Подход SuperNova решает несколько ключевых проблем:
Дилемма суверенитета ИИ
Пока предприятия ориентируются в быстро развивающейся среде искусственного интеллекта, выпуск SuperNova проливает свет на растущую напряженность в отрасли: компромисс между удобством и мощностью облачных сервисов искусственного интеллекта и контролем и настройкой, обеспечиваемыми развертываемыми моделями. Эта дихотомия представляет собой то, что мы могли бы назвать «дилеммой суверенитета ИИ».
С одной стороны, облачные API-сервисы, такие как GPT-4 и Claude, предлагают высочайшую производительность и постоянные обновления, но за счет проблем с конфиденциальностью данных и ограниченной настройки. С другой стороны, такие модели, как SuperNova, обещают полный контроль и настройку, но требуют собственных специалистов для развертывания и обслуживания.
Подход Arcee к SuperNova направлен на преодоление этого разрыва, предоставляя модель, которую можно развернуть локально, сохраняя при этом возможности, предназначенные для конкуренции с ведущими облачными сервисами. Этот гибридный подход может быть особенно привлекательным для отраслей со строгими нормативными требованиями или для тех, которые обрабатывают высококонфиденциальные данные.
Официальный блог: https://blog.arcee.ai/meet-arcee-supernova-our-flagship-70b-model-alternative-to-openai/
В целом, SuperNova от Arcee AI предоставляет предприятиям новый способ развертывания и настройки ИИ, обеспечивая значительные преимущества в конфиденциальности данных, стабильности модели и возможности настройки. Хотя для его развертывания и обслуживания требуются определенные технические инвестиции, его долгосрочные преимущества и положительное влияние на корпоративные стратегии ИИ заслуживают внимания. Появление SuperNova также предоставляет компаниям новые варианты решения «дилеммы суверенитета ИИ».