Adobe desenvolve IA que detecta manipulações digitais em expressões faciais

O Adobe Photoshop é um dos mais populares softwares usados para manipulação de imagens. A empresa agora está preocupada com o mau uso do programa, já que estamos entrando na era dos deepfakes, manipulações feitas em fotos e vídeos para mostrar pessoas fazendo coisas que nunca fizeram, o que tende a agravar a crise de confiança com informações encontradas na internet. Levando em consideração que essas manipulações são muitas vezes feitas usando algumas ferramentas do Photoshop que permitem alterar expressões faciais, pesquisadores da empresa, em conjunto com cientistas da Universidade da Califórnia Berkeley e com financiamento da Agência de Projetos de Pesquisa Avançada em Defesa (DARPA), um braço do Pentágono, publicaram um trabalho descrevendo um algoritmo de inteligência artificial capaz de identificar, analisar e até reverter manipulações faciais em fotos.

A pesquisa é focada em alterações feitas pela ferramenta do Photoshop chamada liquefação, que permite ajustar o formato de rostos e modificar expressões faciais, o que é capaz de mudar drasticamente a interpretação de fotos: ao invés de parecer feliz, uma pessoa pode ser transformada em raivosa, por exemplo. As alterações são geralmente muito sutis, já que os seres humanos são especialistas em detectar rostos e interpretar expressões faciais, e quaisquer alterações bruscas seriam facilmente detectadas como não-realistas. O algoritmo desenvolvido pela Adobe usa redes neurais convolucionais para treinar em pares de imagens, a original e a manipulada, e assim aprender a identificar imagens modificadas. As imagens identificadas como alteradas passam então por uma segunda rede neural dilatada, que é capaz de identificar os pixels modificados e em alguns casos inclusive reverter a imagem, aplicando um efeito ‘desfazer’ para sugerir como seria a imagem original.

Estrutura do algoritmo. Adaptado do artigo original.

A precisão alcançada na identificação de imagens alteradas foi de 99%, algo impressionante já que mesmo especialistas como somos nós só conseguiram acertar 53% das vezes. Alguns resultados do efeito ‘desfazer’ podem ser visualizados no vídeo abaixo.

Os cientistas são cautelosos ao afirmar que a ideia de um botão ‘desfazer’ com alta precisão ainda é uma realidade distante, mas a mera capacidade de identificar imagens alteradas pode ser uma importante aliada no consumo de informações confiáveis. A Adobe não tem planos de transformar a ferramenta em um produto comercial, mas reforça seu comprometimento com a possibilidade de policiar o uso ético dos seus produtos.

Esse é o primeiro passo na democratização de processos forenses para imagens, que dependem do desenvolvimento de algoritmos mais avançados capazes de detectar mudanças complexas como manipulações corporais e edições fotométricas como a suavização de peles.