O editor do Downcodes aprendeu que embora o desempenho do modelo carro-chefe da nova geração "Orion" desenvolvido pela OpenAI tenha melhorado, a melhoria não é tão boa quanto o esperado, especialmente em termos de confiabilidade de programação. Comparado com o enorme salto do GPT-3 para o GPT-4, o progresso do Orion parece ser mais lento, o que desencadeou preocupações da indústria sobre a velocidade de desenvolvimento do modelo de IA. Este artigo analisará em profundidade os desafios enfrentados pela OpenAI e as estratégias que adotaram para enfrentar esse desafio.
Recentemente, o Information Daily informou que o modelo principal da nova geração desenvolvido pela OpenAI tem o codinome "Orion". Embora seu desempenho exceda o dos modelos existentes, em comparação com os grandes saltos dos modelos anteriores, o progresso parece ter desacelerado. Quando os funcionários testaram este novo modelo, descobriram que, em comparação com o salto do GPT-3 para o GPT-4, a melhoria do Orion em algumas áreas não era óbvia, especialmente na programação, que pode não ser fiável.
Para enfrentar este desafio, a OpenAI estabeleceu uma equipe de base dedicada a explorar estratégias para continuar a melhorar os modelos à medida que novos dados de treinamento se tornam cada vez mais escassos. Segundo o relatório, essas novas estratégias incluem o uso de dados sintéticos gerados por modelos de inteligência artificial para treinar o Orion, bem como a realização de trabalhos de melhoria adicionais após a conclusão do treinamento do modelo.
A OpenAI não respondeu imediatamente às perguntas. Em relação aos relatórios anteriores sobre o modelo principal, a OpenAI disse: “Não temos planos de lançar um modelo com o codinome Orion este ano”.
Isto significa que, embora a OpenAI continue a ultrapassar os limites da tecnologia, as melhorias do modelo podem abrandar com o tempo. No campo da inteligência artificial, como manter o progresso tecnológico e a inovação tornou-se uma questão importante. As medidas tomadas pela OpenAI podem fornecer novas direções para o desenvolvimento futuro de modelos, mas levará tempo para testar como alcançar avanços reais.
À medida que a tecnologia continua a desenvolver-se, a equipa OpenAI também está a pensar em estratégias mais voltadas para o futuro para garantir que possa continuar a manter a sua posição de liderança na competição futura. Enfrentando estrangulamentos tecnológicos, as principais empresas do setor poderão ter de reexaminar as suas estratégias de desenvolvimento para se adaptarem às novas exigências do mercado.
Os desafios enfrentados pela OpenAI também reflectem os problemas comuns enfrentados por toda a indústria da IA na procura de avanços tecnológicos. Como equilibrar a melhoria do desempenho do modelo com os custos de P&D e como lidar com os gargalos de dados se tornarão orientações importantes para o desenvolvimento futuro da IA. O editor do Downcodes continuará atento ao progresso do OpenAI e trazendo mais relatórios relacionados.