Depois que o cofundador da OpenAI, Ilya Sutskever, deixou o cargo de cientista-chefe, ele cofundou a Safe Superintelligence Inc. (SSI) com seu colega Daniel Levy e o ex-diretor de inteligência artificial da Apple, Daniel Gross, dedicado à construção de superinteligência segura. A mudança atraiu ampla atenção, especialmente depois que Sutskever liderou anteriormente a equipe OpenAI Super Alignment e esteve envolvido na breve demissão do CEO da OpenAI, Sam Altman, em novembro de 2023. O estabelecimento da SSI marca a mudança da Sutskever no seu foco na segurança da inteligência artificial, da OpenAI para uma plataforma mais focada e independente.
O cofundador da OpenAI, Ilya Sutskever, anunciou recentemente que se dedicará a novos projetos empreendedores após renunciar ao cargo de cientista-chefe da OpenAI em maio deste ano. Ele e o colega da OpenAI, Daniel Levy, e o ex-diretor de inteligência artificial da Apple e cofundador da Cue, Daniel Gross, anunciaram que estão co-fundando a Safe Superintelligence Inc., uma start-up cuja missão é construir superinteligência segura.
Em informações publicadas no site da SSI, os fundadores afirmaram que a construção de uma superinteligência segura é “o problema técnico mais importante do nosso tempo”. Além disso, "Vemos a segurança e as capacidades como uma só coisa, como problemas tecnológicos resolvidos através de engenharia revolucionária e avanços científicos. Planejamos avançar as capacidades o mais rápido possível, garantindo que nossa segurança esteja sempre à frente da curva".
Então, o que é superinteligência? É um conceito hipotético que representa uma entidade teórica com inteligência que excede em muito a dos humanos mais inteligentes.
A mudança é uma continuação do trabalho de Sutskever na OpenAI. Ele foi membro da equipe de Super Alignment da empresa, responsável por projetar maneiras de controlar novos e poderosos sistemas de inteligência artificial. Mas com a saída de Sutskever, o time foi dissolvido, medida que foi duramente criticada por um de seus ex-líderes, Jean Leike.
A SSI afirma que irá “avançar no desenvolvimento de superinteligência segura em linha reta, focada em um objetivo e um produto”.
É claro que o cofundador da OpenAI foi fundamental na breve destituição do CEO Sam Altman em novembro de 2023. Sutskever disse mais tarde que se arrependia de seu papel no incidente.
O estabelecimento da Safe Superinteligence Inc. permitirá que Sutskever e outros se concentrem mais na solução do problema da superinteligência segura e alcancem o desenvolvimento de produtos com um único objetivo.
A SSI pretende resolver o problema extremamente desafiador da construção de superinteligência segura, e o seu desenvolvimento futuro merece atenção contínua. O facto de a nova empresa de Sutskever conseguir atingir os seus objectivos ambiciosos terá consequências de longo alcance para o campo da inteligência artificial.