O rótulo “Made with AI” da Meta gera polêmica! Vários fotógrafos reclamaram que o Meta rotulou incorretamente as fotos reais que eles tiraram como imagens geradas por IA. Esse problema envolve o uso de software de edição de fotos. Mesmo o simples corte e compactação podem acionar o algoritmo do Meta e julgar mal as fotos reais como conteúdo gerado por IA. Este incidente destacou as limitações da tecnologia de reconhecimento de imagem por IA em aplicações práticas e também levantou preocupações entre os fotógrafos sobre direitos autorais e justiça dos algoritmos.
A Meta está ciente do problema e está trabalhando para melhorar seus algoritmos de reconhecimento de imagem para identificar com mais precisão as imagens geradas por IA. No entanto, o método Meta atual ainda apresenta deficiências, causando problemas às criações e trabalhos dos fotógrafos. Meta disse que está trabalhando com empresas relevantes para melhorar este processo, mas soluções específicas e cronogramas de melhoria ainda não foram anunciados. Este incidente também nos lembra mais uma vez que, à medida que a tecnologia de IA se desenvolve, precisamos prestar mais atenção ao seu potencial ético e social. problemas.
De acordo com relatos da mídia estrangeira, vários fotógrafos reclamaram que a Meta adicionou por engano o rótulo “Made with AI” às fotos reais que tiraram. Vários fotógrafos compartilharam exemplos nos últimos meses, mais recentemente Meta rotulou uma foto de um jogo de basquete tirada pelo ex-fotógrafo da Casa Branca Pete Souza como gerada por IA.
Em outro exemplo recente, Meta adicionou por engano a tag a uma foto do Instagram mostrando Kolkata Knight Riders vencendo a principal liga de críquete da Índia. Curiosamente, tal como acontece com a foto de Sousa, esta tag só aparece ao visualizar a imagem num dispositivo móvel e não na web.
Souza disse que tentou e não conseguiu remover a etiqueta. Ele especulou que usar a ferramenta de corte da Adobe e compactar a imagem no formato JPEG poderia acionar o algoritmo do Meta.
No entanto, Meta também rotulou incorretamente fotos reais como Made with AI quando os fotógrafos usaram ferramentas generativas de IA, como o Generative Fill da Adobe, para remover os menores objetos, relatou PetaPixel. A publicação conduziu seu próprio teste usando a ferramenta Generate Fill do Photoshop para remover uma bolha em uma imagem, que Meta sinalizou no Instagram como gerada por IA. Estranhamente, porém, quando PetaPixel carregou novamente o arquivo no Photoshop e depois o copiou e colou em um documento preto para salvá-lo, o Meta não adicionou a tag “Made with AI”. Vários fotógrafos expressaram descontentamento com o fato de tais edições menores terem sido injustamente rotuladas como geradas por IA.
O fotógrafo Noah Kalina escreveu no Threads: “Se as fotos ‘retocadas’ fossem todas rotuladas como ‘Feitas com IA’, então o termo não teria sentido. '."
A porta-voz da Meta, Kate McLaughlin, disse em comunicado que a empresa está ciente do problema e está avaliando sua abordagem “para que nossos rótulos reflitam a quantidade de IA usada nas imagens”. As métricas padrão da indústria estão incluídas, por isso estamos trabalhando ativamente com essas empresas para melhorar esse processo e alinhar nossa abordagem de rotulagem com nossa intenção”, acrescentou McLaughlin.
Em fevereiro, a Meta anunciou que adicionaria uma tag “Made with AI” às fotos enviadas ao Facebook, Instagram e Threads antes da temporada eleitoral deste ano. Especificamente, a empresa disse que adicionará tags às fotos de IA geradas usando ferramentas como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
A Meta não revelou o que desencadeou o rótulo “Feito com IA”, mas todas essas empresas adicionaram ou estão em processo de adicionar metadados a arquivos de imagem para indicar o uso de ferramentas de IA, que é a forma da Meta identificar imagens geradas por IA. fotos. A Adobe, por exemplo, lançou no ano passado seu sistema de credenciais de conteúdo, que adiciona informações sobre a fonte do conteúdo aos metadados.
Destaque:
- Vários fotógrafos reclamaram que a Meta rotulou incorretamente as fotos reais como “Feitas com IA”.
- Fotos criadas com ferramentas de edição parecem afetadas.
- Meta também rotulou incorretamente fotos reais como Made with AI ao usar ferramentas generativas de IA.
A resposta da Meta a esta pergunta indica que eles estão trabalhando para melhorar seus algoritmos para reduzir falsos positivos. Mas isto também expõe as limitações da tecnologia de IA no reconhecimento de imagens e os possíveis impactos negativos em aplicações práticas. Como equilibrar o desenvolvimento tecnológico e a protecção dos direitos dos utilizadores ainda é um problema que requer atenção e resolução contínuas.