A startup de inteligência artificial japonesa Sakana AI lançou recentemente uma tecnologia inovadora chamada "Ai Cuda Engineer", um sistema projetado para gerar núcleos CUDA altamente otimizados por meio de processos automatizados, melhorando significativamente a eficiência operacional das operações de aprendizado de máquina. O sistema aumentou a velocidade comum de operação de pytorch em 10 a 100 vezes, através da evolução da tecnologia de otimização de código de Modelo de Linguagem Grande (LLM), marcando um grande avanço para a IA no campo da otimização de desempenho da GPU.
Os núcleos CUDA são o núcleo da computação da GPU, e sua escrita e otimização geralmente requerem um fundo técnico profundo e um alto nível de especialização. Embora as estruturas existentes como o Pytorch forneçam uso conveniente, eles geralmente deixam de combinar com os kernels otimizados manualmente no desempenho. O "Engenheiro AI CUDA" da Sakana AI resolveu esse problema através de um fluxo de trabalho inteligente.
O usuário @shao__meng na plataforma X comparou essa tecnologia para "instalar uma caixa de câmbio automática para desenvolvimento de IA", permitindo que o código comum "atualize automaticamente para o desempenho no nível da corrida". Outro usuário @financeyf5 também apontou no post que o lançamento do sistema demonstra o potencial da auto-otimização da IA e pode trazer uma melhoria revolucionária para a eficiência do uso futuro de recursos de computação.
A Sakana AI já deixou sua marca no setor devido a projetos como "AI Scientist". A Companhia alega que o sistema gerou e verificou com sucesso mais de 17.000 núcleos CUDA, cobrindo várias operações de Pytorch, e o conjunto de dados exposto fornecerá recursos valiosos para pesquisadores e desenvolvedores. Os especialistas da indústria acreditam que essa tecnologia não apenas reduz o limiar para a programação de GPU de alto desempenho, mas também pode levar a eficiência de treinamento e implantação dos modelos de inteligência artificial a um novo nível.
Referência de informação: https://x.com/financeyf5/status/1892856847780237318