Google Gboard键盘推出了名为“校对”的全新功能，利用大型语言模型（LLM）实现一键修复句子和段落错误。这项创新功能显着提升了移动端文字输入效率，改变了以往逐字纠错的传统方式，为用户带来更流畅的打字体验。该功能目前已在Pixel 8设备上上线，每天服务数千用户，其背后是Google研究团队在数据生成、模型训练和服务优化等方面的深入研究和技术突破。
Gboard是Google为移动设备打造的智能键盘，通过统计解码提供流畅的打字体验。现在，Google研究团队又为它增添了一项创新功能"校对"，利用大型语言模型（LLM）的强大能力，实现了一键修复整个句子和段落错误的突破。
根据Google新发布的论文《校对:一键修复所有错误》，这项名为"校对"的Gboard新功能依托于服务器端LLM的支持，用户只需轻轻一按，就能无缝更正整个句子或段落中的各种错误，完全改变了传统的逐字修正体验。该功能目前已在Pixel8设备上推出，每天惠及数千名用户。
这一系统包括数据生成、指标设计、模型调整和服务四个关键部分。研究团队通过复杂的错误合成框架生成模拟数据集，设计多个指标从不同角度评估模型，并借鉴InstructGPT的思路，先通过监督学习进行微调，再采用强化学习技术进行调整，显着提升了模型性能。
此外，该模型部署在云端TPU V5上，通过量化、分桶、分段输入和推测解码等手段优化延迟，最终将中位响应时间降低了39.4%。
分析人士认为，这一探索性研究充分展现了大模型为提升移动端输入交互体验所蕴藏的巨大潜能，是对传统人机交互方式的颠覆性革新。它标志着大模型在提升用户输入效率方面的变革力量，并对未来借助人工智能优化日常交互体验带来启示。
论文地址：https://arxiv.org/abs/2406.04523
总而言之，Google Gboard的“校对”功能是人工智能技术在移动端应用的成功案例，预示着未来更加智能化、便捷化的输入体验。