A Meta Plataformas lançou os modelos LLAMA 3.21B e 3B simplificados de grandes idiomas hoje, que é a primeira vez no setor a alcançar a operação estável de grandes modelos de idiomas em telefones celulares e tablets comuns. Através da tecnologia de treinamento quantitativo e do algoritmo de otimização, esta versão reduz o tamanho do arquivo em 56%, reduz a memória em execução em 41%e aumenta a velocidade para 4 vezes a versão original. Esse progresso inovador marca a transformação do modo de processamento de dados de servidores centralizados em terminais pessoais, abrindo novas maneiras para o desenvolvimento de aplicativos futuros de dispositivos móveis.
A Meta Platforms lançou hoje uma nova versão simplificada de seu modelo de llama, incluindo produtos LLAMA 3.21B e 3B, alcançando a operação estável de modelos de idiomas em larga escala em smartphones e tablets comuns pela primeira vez. Ao integrar inovador a tecnologia de treinamento quantitativo e algoritmos de otimização, a nova versão reduz o tamanho do arquivo em 56%, mantendo a qualidade original do processamento e reduz o requisito de memória operacional em 41% e aumenta a velocidade de processamento em 4 vezes para a versão original. Processamento contínuo de 8.000 caracteres em texto.
Quando testados em telefones Android, os modelos de IA compactados da Meta (Spinquant e Qlora) melhoraram significativamente a velocidade e a eficiência em comparação com a versão padrão. Modelos menores funcionam quatro vezes mais rápido, enquanto o uso da memória é reduzido
No teste real dos telefones OnePlus12, esta versão compactada mostrou desempenho comparável ao da versão padrão, melhorando bastante a eficiência operacional e resolvendo efetivamente o problema de longo prazo do poder de computação insuficiente dos dispositivos móveis. A Meta optou por adotar uma estratégia de mercado de cooperação aberta e conduzir uma cooperação aprofundada com os principais fabricantes de processadores móveis, como a Qualcomm e a MediaTek. .
Essa estratégia contrasta com outros gigantes da indústria. A rota aberta da Meta oferece aos desenvolvedores um maior espaço de inovação quando o Google e a Apple optarem por integrar profundamente novas tecnologias com seus sistemas operacionais. Esta versão marca a transformação do modo de processamento de dados de um servidor centralizado em um terminal pessoal.
Esse avanço tecnológico pode desencadear grandes mudanças como o período em que os computadores pessoais são popularizados, embora ainda enfrentem desafios, como requisitos de desempenho do dispositivo e seleção de plataforma de desenvolvedores. À medida que o desempenho dos dispositivos móveis continua a melhorar, as vantagens das soluções de processamento localizadas surgirão gradualmente. A Meta espera promover todo o setor para se desenvolver em uma direção mais eficiente e segura por meio de cooperação aberta e abrir novas maneiras para o futuro desenvolvimento de dispositivos móveis.
A escolha da estratégia de cooperação aberta da Meta contrasta com outros gigantes da tecnologia, proporcionando aos desenvolvedores espaço mais amplo para a inovação e também anunciando a futura direção de desenvolvimento do processamento de IA localizado. Espera -se que esse avanço tecnológico mude a maneira como os dispositivos móveis são usados, trazendo grandes mudanças como o período de popularização de computadores pessoais, e vale a pena esperar seu desenvolvimento futuro.