Em um cenário onde a inteligência artificial avança a passos largos, o Tribunal Superior Eleitoral (TSE) reafirmou sua posição contra o uso de deepfakes durante as campanhas eleitorais. Contudo, um ponto crucial levantado por especialistas é que, para que um conteúdo seja considerado ilícito, é necessário que haja um grau de realismo que torne a falsificação praticamente indistinguível do original.
A crescente sofisticação das tecnologias de IA gerativa, que criam vídeos e áudios falsificados, foi tema de um encontro recente em Boston, promovido pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA. Durante o evento, especialistas da OpenAI e da Meta enfatizaram que a dificuldade em distinguir conteúdos manipulados de materiais autênticos pode impactar diretamente a veracidade das provas em processos judiciais.
Shira Anderson, consultora da OpenAI, destacou que as ferramentas de geração de imagens estão se tornando tão avançadas que a identificação científica de deepfakes pode estar se tornando um desafio insuperável. Apesar da preocupação crescente com os riscos associados a esses conteúdos, os tribunais americanos ainda não enfrentam uma avalanche de casos envolvendo deepfakes; dados de uma pesquisa recente indicam que apenas uma fração dos juízes já lidou com esse tipo de contestação.
No entanto, a percepção de que esse tipo de manipulação é um problema futuro, e não apenas uma preocupação acadêmica, é compartilhada por muitos profissionais do setor. Devin Norder, da Meta, destacou que a produção de deepfakes demanda pouco tempo e recursos, tornando a criação e disseminação desse tipo de conteúdo uma ameaça real e imediata.
O surgimento de legislações na Califórnia e na União Europeia, que exigem a incorporação de marcas d’água em conteúdos digitais, representa um passo em direção à mitigação dos riscos associados a deepfakes. Contudo, Anderson alertou que a ausência de um método universal para verificar a autenticidade dessas marcas coloca em questão a eficácia dessas medidas. A complexidade do cenário atual sugere que a luta contra a desinformação gerada por inteligência artificial ainda está apenas começando.
Crédito da imagem: Foto: Pixabay — Michelle-Maria (pixabay)
