Com o rápido desenvolvimento da tecnologia de inteligência artificial, a tecnologia de clonagem de voz tornou-se cada vez mais madura, mas também traz sérios problemas sociais. Essa tecnologia é utilizada por criminosos para realizar atividades ilegais, como fraudes, causando grandes problemas e perdas econômicas ao público. Muitas figuras de destaque, incluindo David Attenborough, foram vítimas de fraudes de clonagem de voz e apelaram a uma maior supervisão jurídica para combater esta tática criminosa emergente.
Com o avanço contínuo da tecnologia de inteligência artificial, a tecnologia de clonagem de voz tornou-se gradualmente visível ao público, mas os seus riscos potenciais também surgiram. Recentemente, as vozes de muitas pessoas famosas foram clonadas maliciosamente por criminosos e usadas como ferramentas para fraudes. Muitas celebridades, incluindo o famoso apresentador de documentários sobre a natureza, David Attenborough, expressaram preocupações sobre isto e apelaram a uma protecção jurídica mais forte.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Recentemente, David Attenborough sentiu-se “profundamente perturbado” ao descobrir que a sua voz era usada para divulgar notícias políticas. Ele disse que dedicou sua vida a espalhar a verdade, mas agora descobriu que sua identidade havia sido roubada por outras pessoas. Esta situação o deixou irritado e desapontado. Além disso, vozes de celebridades como Jennifer Aniston, Oprah Winfrey e Kylie Jenner também foram clonadas por criminosos, indicando a universalidade desse fenômeno.
Os golpes de clonagem de voz de IA no Reino Unido aumentaram 30% no ano passado, de acordo com a última investigação. A pesquisa mostra que cerca de 28% das pessoas encontraram um golpe de clonagem de voz de IA pelo menos uma vez no ano passado. Esses golpes geralmente apresentam ligações borradas e vozes falsas, tornando difícil para as vítimas perceberem a diferença. Os especialistas recomendam que, ao receber uma chamada suspeita, é melhor desligar imediatamente e ligar para um número de telefone confiável para confirmar.
À medida que a tecnologia de clonagem de voz continua a melhorar, os especialistas começam a concentrar-se nos desafios legais colocados pela tecnologia. Dr. Dominic Lees disse que as atuais leis de privacidade e direitos autorais ainda não se adaptaram ao desenvolvimento desta nova tecnologia, deixando muitas vítimas, como Attenborough, virtualmente impotentes. Ele aconselha o Comitê de Cultura, Mídia e Esporte do Parlamento do Reino Unido sobre o uso ético da tecnologia de IA na produção cinematográfica e televisiva.
Além disso, Li Si também destacou que, embora a IA tenha feito progressos significativos na síntese sonora, ainda não consegue compreender completamente as mudanças emocionais, afetando assim o realismo do som. Além disso, a indústria da dobragem também está a responder rapidamente a esta mudança, e algumas empresas começaram a clonar as vozes de alguns artistas para satisfazer a procura do mercado.
No geral, a ascensão da tecnologia de clonagem de voz suscitou preocupações generalizadas, especialmente em termos de protecção da privacidade e da reputação pessoal. Os especialistas apelam ao governo para que tome medidas o mais rapidamente possível para lidar com os novos desafios trazidos pela tecnologia de IA e evitar que esta tecnologia se torne uma ferramenta para criminosos.
Destaque:
Attenborough e outros disseram que ficaram profundamente perturbados com a clonagem maliciosa de vozes de celebridades.
Os casos de fraude de clonagem de voz de IA no Reino Unido aumentaram 30%, aumentando a vigilância pública.
Os especialistas pedem leis atualizadas para enfrentar os desafios de privacidade e direitos autorais colocados pela tecnologia de IA.
Em suma, o abuso da tecnologia de clonagem de voz tornou-se um grave problema social. Exige que o governo, as empresas e os indivíduos trabalhem em conjunto para reforçar a supervisão e melhorar a sensibilização do público para a prevenção, de modo a reduzir eficazmente a ocorrência de tais crimes e proteger. interesses públicos e segurança.