Representantes da OpenAI e da Meta alertam que vídeos, imagens e áudios criados por IA podem dificultar a identificação de provas falsas em processos judiciais
Especialistas da OpenAI e da Meta alertaram, na quinta-feira (15), que vídeos, imagens e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de registros autênticos.
O assunto foi discutido durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizada em Boston. A preocupação é com o uso de conteúdos falsificados, conhecidos como deepfakes, em processos judiciais, o que pode dificultar a verificação de provas apresentadas aos tribunais.
A inteligência artificial generativa permite criar imagens, reproduzir vozes e produzir vídeos a partir de comandos de texto ou arquivos fornecidos pelos usuários. Com o avanço dos programas, as alterações podem passar despercebidas por pessoas e sistemas de detecção.
A consultora de políticas da OpenAI, Shira Anderson, afirmou que as ferramentas de identificação enfrentam dificuldades para acompanhar a tecnologia. Segundo a especialista, poderá não existir, no futuro, um método científico capaz de reconhecer todas as imagens produzidas por inteligência artificial.
Deepfakes com inteligência artificial preocupam tribunais
O diretor de gestão de produtos da Meta, Devin Norder, afirmou que conteúdos produzidos por modelos de inteligência artificial já podem ser indistinguíveis de registros autênticos para os seres humanos.
Segundo ele, a criação dessas falsificações também exige menos tempo e recursos. Desde 2023, o comitê judicial dos Estados Unidos discute procedimentos para avaliar a autenticidade de arquivos suspeitos e estabelecer critérios para sua utilização como provas em julgamentos.
Apesar da preocupação, os registros de contestação de provas por suspeita de deepfake ainda são limitados nos tribunais americanos. Uma pesquisa do Centro Federal do Judiciário identificou 15 magistrados, entre 931 participantes, que relataram processos com questionamentos desse tipo.
A Califórnia e a União Europeia adotaram exigências de identificação de conteúdos produzidos por inteligência artificial, como marcas-d’água. Especialistas alertam, porém, que ainda não existe um sistema universal capaz de verificar todos esses sinais de procedência.
