В области искусственного интеллекта появляется подрывная технология. В последнее время Labs объявила о запуске серии диффузионных диффузионных моделей Mercury (DLLMS), новое поколение языковых моделей, предназначенных для быстрого и эффективного создания высококачественного текста. По сравнению с традиционной авторегрессивной большой языковой моделью, Mercury увеличивает скорость генерации до 10 раз, что позволяет более 1000 маркеров в секунду на графических картах NVIDIA H100, скорость, которая ранее была достигнута только с помощью пользовательских чипов.
Mercury Coder, первый продукт в серии Mercury, был представлен в общественных тестировании. Модель фокусируется на генерации кода, демонстрирует превосходную производительность и превосходит многие существующие модели оптимизации скорости в многочисленных критериях программирования, таких как Mini GPT-4O и Claude3.5Haiku, а также почти в 10 раз быстрее по скорости. Согласно отзывам разработчика, завершение кода Меркурия более популярно. В тесте Copilot Arena Mercury Coder Mini занимает одно из самых быстрых моделей.
Большинство текущих языковых моделей принимают авторегрессию, то есть генерируют теги один за другим слева направо, в результате чего процесс генерации неизбежно является последовательным, с высокими затратами на задержку и расчета. Меркурий использует метод генерации «грубого до тонкого», начиная с чистого шума, и постепенно уточняет выход после нескольких «двойных» шагов. Это позволяет обрабатывать модели ртути параллельно с несколькими тегами в генерации, что обеспечивает лучший вывод и структурированную отзывчивость.
С запуском серии Mercury Labs демонстрирует большой потенциал диффузионных моделей в областях текста и генерации кода. Далее, компания также планирует запустить языковую модель, подходящую для приложений в чате для дальнейшего расширения сценариев приложения модели языка диффузии. Эти новые модели будут иметь более сильные интеллектуальные возможности прокси, способные к сложному планированию и долгосрочному поколению. В то же время их эффективность заставляет его хорошо работать на устройствах с ограниченными ресурсами, такими как смартфоны и ноутбуки.
В целом, запуск Mercury знаменует собой важный прогресс в технологии искусственного интеллекта, не только значительно повышая скорость и эффективность, но и обеспечивает более качественные решения для отрасли.
Официальное введение: https://www.inceptionlabs.ai/news
Онлайн -опыт: https://chat.inceptionlabs.ai/
Ключевые моменты:
Запускается серия диффузионных диффузии Mercury (DLLM), а скорость генерации увеличилась до 1000 маркеров в секунду.
Mercury Coder фокусируется на генерации кода и превосходит многие существующие модели в сравнительном счете и хорошо работает.
Инновационные способы диффузионных моделей делают генерацию текста более эффективными и точными, предоставляя новые возможности для интеллектуальных прокси -приложений.