В клавиатуре Google Gboard появилась новая функция под названием «Корректура», которая использует большие языковые модели (LLM) для исправления ошибок в предложениях и абзацах одним щелчком мыши. Эта инновационная функция значительно повышает эффективность мобильного ввода текста, меняет традиционный метод пословного исправления ошибок и обеспечивает пользователям более плавный ввод текста. Эта функция в настоящее время доступна на устройствах Pixel 8 и ежедневно обслуживает тысячи пользователей. За ней стоят глубокие исследования и технические прорывы исследовательской группы Google в области генерации данных, обучения моделей и оптимизации сервисов.
Gboard — это интеллектуальная клавиатура, созданная Google для мобильных устройств, которая обеспечивает удобство набора текста благодаря статистическому декодированию. Теперь исследовательская группа Google добавила к нему инновационную функцию «корректуры», используя мощные возможности больших языковых моделей (LLM) для достижения прорыва в исправлении ошибок в целых предложениях и абзацах одним щелчком мыши.
Согласно недавно выпущенному документу Google «Корректура: исправьте все ошибки одним щелчком мыши», эта новая функция Gboard под названием «Корректура» опирается на поддержку LLM на стороне сервера, позволяя пользователям легко исправлять целые предложения одним щелчком мыши или различные ошибки. в абзаце, полностью меняя традиционный опыт пословной коррекции. В настоящее время эта функция внедряется на устройствах Pixel 8, ежедневно принося пользу тысячам пользователей.
Эта система включает четыре ключевых части: генерацию данных, разработку индикаторов, корректировку модели и обслуживание. Исследовательская группа создала смоделированные наборы данных с помощью сложной структуры синтеза ошибок, разработала несколько индикаторов для оценки модели с разных точек зрения и позаимствовала идеи из InstructGPT, чтобы сначала выполнить точную настройку с помощью контролируемого обучения, а затем использовать технологию обучения с подкреплением для корректировки, что значительно улучшило модель. производительность модели.
Кроме того, модель развернута в облаке TPU V5 и оптимизирует задержку за счет квантования, группирования, сегментированного ввода и спекулятивного декодирования, что в конечном итоге сокращает среднее время ответа на 39,4%.
Аналитики полагают, что это предварительное исследование полностью демонстрирует огромный потенциал больших моделей для улучшения взаимодействия с вводом на мобильных терминалах и представляет собой революционную инновацию по сравнению с традиционными методами взаимодействия человека с компьютером. Он подчеркивает преобразующую силу больших моделей в повышении эффективности пользовательского ввода и вдохновляет на будущее использование искусственного интеллекта для оптимизации повседневного интерактивного взаимодействия.
Адрес статьи: https://arxiv.org/abs/2406.04523
В целом, функция «корректуры» Google Gboard — это успешный пример применения технологии искусственного интеллекта на мобильном терминале, указывающий на более интеллектуальный и удобный ввод данных в будущем.