Recentemente, um problema sério foi revelado no Perplexity, a muito observada ferramenta de pesquisa de IA: suas fontes de resposta contêm uma grande quantidade de informações de baixa qualidade ou até mesmo erradas geradas por IA de blogs e postagens do LinkedIn não confiáveis. Esta descoberta levantou preocupações sobre a confiabilidade das informações do mecanismo de pesquisa de IA e também teve um enorme impacto na reputação da Perplexity. Este artigo analisará detalhadamente o dilema enfrentado pela Perplexidade e o impacto deste incidente no campo da IA.
Novos relatórios revelam que a ferramenta de pesquisa de IA Perplexity, de alto perfil e bem financiada, está gerando spam citando IA de baixa qualidade ou até mesmo defeituosa de blogs e postagens do LinkedIn não confiáveis.
GPTZero, uma startup especializada na detecção de conteúdo gerado por IA, conduziu recentemente uma investigação aprofundada sobre o Perplexity. O CEO da empresa, Edward Tian, observou em uma postagem no blog no início deste mês que percebeu que “cada vez mais fontes de links Perplexity são geradas automaticamente pela IA”.
Ele então examinou a reutilização dessas informações pela IA da Perplexity e descobriu que, em alguns casos, a Perplexity até extraiu informações desatualizadas e incorretas dessas fontes geradas pela IA. Em outras palavras, é um ciclo de desinformação impulsionado pela IA, onde os erros e informações fictícias da IA encontram seu caminho para as respostas geradas pela IA da Perplexity.
Por exemplo, para a pergunta “Festivais Culturais em Quioto, Japão”, a Perplexity forneceu uma lista aparentemente coerente de atrações culturais nas cidades japonesas. Mas cita apenas uma fonte: uma postagem obscura de blog postada no LinkedIn em novembro de 2023 que provavelmente foi gerada por IA. Isto está muito longe das “organizações de notícias, artigos acadêmicos e blogs estabelecidos” que a Perplexity afirma usar.
Essa é uma imagem ruim para uma startup já problemática que afirma estar “revolucionando a maneira como você descobre informações”, fornecendo “conhecimento preciso” e obtendo “as informações mais recentes” de “fontes confiáveis”.
Destaques:
Perplexity foi exposto ao citar IA defeituosa para gerar spam de blogs questionáveis e artigos do LinkedIn.
GPTZero detectou que um número crescente de fontes vinculadas pelo Perplexity são geradas por IA, e que o Perplexity às vezes até usa informações desatualizadas e incorretas dessas fontes.
A Perplexity afirma que suas respostas vêm apenas de “fontes confiáveis”, mas realmente importa se seus algoritmos de IA realmente obtêm boas informações a partir de boas informações.
O incidente Perplexity lembra-nos mais uma vez que, embora a tecnologia de IA esteja a desenvolver-se rapidamente, a sua fiabilidade e segurança ainda precisam de ser melhoradas. A revisão e triagem rigorosas do conteúdo gerado pela IA são cruciais para evitar que a IA se torne uma ferramenta para espalhar informações falsas. No futuro, os motores de busca de IA precisarão estabelecer um sistema de controle de qualidade mais completo para fornecer verdadeiramente aos usuários serviços de informação confiáveis.