Especialistas da OpenAI e Meta alertam: deepfakes ficam cada vez mais difíceis de identificar

Especialistas em tecnologia da OpenAI e da Meta alertaram que vídeos e áudios falsificados por inteligência artificial, conhecidos como deepfakes, estão cada vez mais difíceis de distinguir de conteúdos autênticos. Eles destacam que o avanço da inteligência artificial (IA), especialmente da IA generativa, dificulta a identificação dessas falsificações tanto para pessoas quanto para programas de computador.

O risco apresentado por essa tecnologia é especialmente significativo no contexto jurídico, onde tem impacto na verificação de provas em julgamentos. O alerta foi tema de uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que debate há três anos as estratégias para tratar os riscos de materiais falsificados por IA nos tribunais.

O comitê analisa como garantir que as provas produzidas com IA sejam submetidas aos mesmos critérios de confiabilidade que outras evidências, incluindo a avaliação por especialistas humanos. Entretanto, até o momento, os casos reportados envolvendo contestação de provas sob suspeita de serem deepfakes ainda são poucos, com uma pesquisa federal indicando apenas 15 ocorrências entre 931 juízes consultados.

Leia também: Mercado global perde US$ 1 trilhão em ações de IA em uma semana; analistas destacam cautela e oportunidades

Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos gerados por modelos avançados de IA já podem ser indistinguíveis para humanos em relação a mídias autênticas, salientando ainda que a produção desses materiais é barata e rápida.

Empresas como OpenAI e Meta comprometem-se a desenvolver ferramentas e serviços para ajudar na verificação da autenticidade de conteúdos visuais. Além disso, legislações recentes da Califórnia e da União Europeia exigem o uso de marcas-d’água em conteúdos gerados por IA, para facilitar sua identificação.

Porém, Anderson, consultora de políticas da OpenAI, enfatizou que não existe ainda um método universal capaz de identificar de forma segura todas essas marcas-d’água ou confirmar definitivamente a autenticidade de um conteúdo visual, dada a diversidade dos sistemas usados por diferentes empresas.