Meta recentemente gerou polêmica quando seu sistema de reconhecimento de imagem de IA rotulou erroneamente fotos reais como “produzidas por IA”. Vários fotógrafos, incluindo o ex-fotógrafo da Casa Branca Pete Souza, relataram problemas semelhantes com seu trabalho sendo rotulado incorretamente como gerado por IA, levantando questões sobre a precisão da tecnologia de reconhecimento de IA da Meta e expondo possíveis falhas neste sistema e possível violação dos direitos dos criadores. . Este incidente rapidamente se espalhou nas redes sociais e atraiu a atenção generalizada.
Recentemente, a gigante das redes sociais Meta esteve envolvida em uma controvérsia sobre tags de IA. Vários fotógrafos reclamaram que a Meta adicionou por engano o rótulo “Feito por IA” às fotos reais que tiraram, levantando questões sobre a precisão dos sistemas de reconhecimento de IA da empresa.
Este problema foi descoberto pela primeira vez pelo ex-fotógrafo da Casa Branca Pete Souza. Uma foto de um jogo de basquete que ele tirou foi erroneamente rotulada como gerada por IA pelo Meta. Posteriormente, mais fotógrafos relataram situações semelhantes, incluindo a foto dos campeões da Premier League indiana com etiqueta errada. Curiosamente, esses rótulos de erro aparecem apenas em dispositivos móveis e não na web.
O que é ainda mais preocupante é que mesmo edições extremamente pequenas podem acionar as tags de IA do Meta. PetaPixel relata que usar a ferramenta Generative Fill do Adobe Photoshop para remover pequenas manchas de uma imagem foi suficiente para que Meta sinalizasse a foto como gerada por IA. Isso gerou protestos por parte dos fotógrafos, que argumentaram que tais retoques leves não deveriam ser rotulados como gerados por IA.
O fotógrafo Noah Kalina expressou sua opinião sobre Threads: “Se uma foto ‘retocada’ é ‘feita com IA’, então o termo efetivamente perde seu significado. Ele até sugeriu que se Meta realmente quisesse proteger os usuários, por que não rotular todas as fotos como?” "não é uma representação verdadeira".
Diante da polêmica, a porta-voz da Meta, Kate McLaughlin, reconheceu que a empresa está ciente do problema e está avaliando seus métodos de rotulagem para refletir com mais precisão a extensão do uso de IA em imagens. A Meta disse que depende de métricas padrão do setor e está trabalhando com outras empresas para melhorar o processo.
A controvérsia decorre de um plano anunciado pela Meta em fevereiro para adicionar um rótulo “feito por IA” às fotos geradas usando ferramentas específicas de IA antes da temporada eleitoral. Embora Meta não tenha revelado o mecanismo de disparo específico, geralmente acredita-se na indústria que ele está relacionado aos metadados do arquivo de imagem.
Com a aplicação generalizada da tecnologia de IA no processamento de imagens, como identificar e rotular com precisão o conteúdo gerado por IA tornou-se uma questão espinhosa. A controvérsia da Meta não reflete apenas as limitações da atual tecnologia de reconhecimento de IA, mas também desencadeia uma reflexão profunda das pessoas sobre a autenticidade do conteúdo digital e os direitos dos criadores. À medida que a polêmica continua, a indústria espera que a Meta melhore seu sistema de rotulagem o mais rápido possível e encontre um equilíbrio entre proteger os usuários e respeitar os criadores.
A Meta precisa enfrentar este incidente e refletir seriamente sobre a precisão do seu sistema de reconhecimento de IA e a justiça do seu algoritmo. Somente melhorando continuamente a tecnologia e comunicando-nos ativamente com fotógrafos e outros criadores de conteúdo poderemos finalmente resolver este problema e manter uma boa ecologia da Internet.