Recentemente, o Tribunal Superior Eleitoral (TSE) reafirmou sua posição sobre a proibição do uso de deepfakes durante as campanhas eleitorais. No entanto, a nova exigência de realismo para caracterizar a ilicitude dessas técnicas levanta questões sobre a eficácia das medidas de proteção à integridade do processo democrático.
Durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, especialistas da OpenAI e da Meta destacaram que a evolução dos deepfakes — vídeos e áudios gerados por inteligência artificial — está tornando cada vez mais difícil distinguir conteúdo autêntico de falsificações. A preocupação com essa tecnologia não é apenas acadêmica; embora ainda haja poucos casos documentados nos tribunais, o potencial de manipulação é alarmante.
Shira Anderson, consultora da OpenAI, expressou ceticismo sobre a viabilidade de desenvolver técnicas confiáveis para identificar deepfakes no futuro. “As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, afirmou. Essa perspectiva é compartilhada por outros especialistas, que ressaltam que a verificação de autenticidade pode se tornar um desafio monumental à medida que a tecnologia avança.
Embora apenas um número reduzido de juízes tenha enfrentado casos relacionados a deepfakes, o juiz Jesse Furman, que preside o comitê, reconhece a crescente necessidade de enfrentar esse problema emergente. “Ainda não vimos muitos casos desse tipo”, comentou, mas a previsão é de que essa realidade mude rapidamente.
Na busca por soluções, novas legislações na Califórnia e na União Europeia estão introduzindo a exigência de marcas-d’água em conteúdos gerados por IA. Essas marcas visam facilitar a identificação de materiais falsificados. No entanto, Anderson alerta que a fragmentação dos sistemas de verificação entre as empresas pode limitar a eficácia dessas medidas. “Não acho que algum dia será à prova de falhas”, concluiu.
Assim, o debate sobre como lidar com os riscos proporcionados pela IA se intensifica, e a necessidade de um sistema robusto para garantir a autenticidade de provas e informações se torna cada vez mais evidente. Enquanto isso, a sociedade deve permanecer vigilante quanto a essas inovações que podem afetar a confiança nas informações, especialmente em um período eleitoral crítico.
Crédito da imagem: Foto: Pixabay — Michelle-Maria (pixabay)
