Imagine receber uma mensagem de áudio de um parente pedindo dinheiro emprestado com urgência. Você pensa: “A voz é dele, é realmente ele”. Agora imagine descobrir, tarde demais, que nada daquilo era real. Esse é o poder do deepfake ou, em tradução livre, "falsificação profunda".
Um deepfake é um artefato de vídeo ou áudio falso, criado com o uso de inteligência artificial (IA), que imita a aparência ou a voz de uma pessoa de verdade com uma precisão assustadora. Existem aplicativos capazes de clonar sua aparência e sua voz, incluindo o “jeito de falar”, o sotaque, as pausas e outras características. Depois disso, eles conseguem criar vídeos ou áudios com frases inteiras, se passando por você, dizendo coisas que você jamais disse ou diria. Parece coisa de filme de ficção científica, certo? Só que não! Isso já está acontecendo todos os dias e causando prejuízos para muitas pessoas.
A dinâmica funciona assim: o criminoso pega um pedaço de um áudio seu- pode ser de um vídeo que você postou no Instagram, um áudio que enviou num grupo de família, qualquer coisa, e joga numa ferramenta de IA. Com essa pequena amostra de áudio e mais um programa de clonagem de voz e um roteiro pronto, o golpista já consegue montar a narrativa do golpe. Depois, ele envia uma mensagem de voz para sua mãe, seu avô, seu marido, se passando por você, contando uma emergência e pedindo um Pix urgente.
Devido à precisão dos áudios, quase ninguém consegue identificar que se trata de um deepfake. Uma pesquisa da revista Nature mostrou que as pessoas confundem a voz clonada com a voz real em cerca de 80% das vezes. Ou seja, mesmo prestando bastante atenção, é complicado identificar que aquilo não é você falando de verdade.
E não para na voz. Existem golpistas usando fotos geradas por IA a partir de imagens reais que a própria vítima publicou nas redes sociais para deixar a história ainda mais convincente. Já houve caso até de gente famosa sendo usada como isca. Vídeos falsos anunciando prêmios, pedindo dados pessoais, tudo bem produzido, sem cara de montagem grosseira como no passado, quando era fácil identificar um golpe que se resumia a textos exagerados, mal escritos e cheios de erros ortográficos.
Então, como se cuidar? Primeiro: desconfie sempre que alguém pedir dinheiro com urgência por áudio ou vídeo, mesmo que a voz pareça igualzinha à de um conhecido. Segundo: antes de fazer qualquer Pix, ligue de volta para o número de sempre da pessoa ou faça uma chamada por vídeo, considerando que é bem mais difícil clonar em tempo real. Terceiro: combine com a família uma "senha" ou pergunta que só vocês saibam, algo como um código secreto para confirmar que é você mesmo do outro lado. Finalmente, pense duas vezes antes de postar vídeos falando direto para a câmera com muita frequência, porque é exatamente esse tipo de material que alimenta esses programas.
De fato, não tem como impedir que essa tecnologia continue avançando, ou seja, as vozes falsas certamente vão ficar cada vez mais convincentes e difíceis de se identificar. Isso significa que não dá para simplesmente treinar o ouvido; é necessário ter um protocolo de confirmação para validar tudo e todos, inclusive as pessoas mais próximas.
A era da IA escancarou uma verdade incômoda: a fronteira entre o real e a fantasia não é apenas tênue, ela simplesmente não existe mais!
Prof. Me. Jorge Luís Gregório
Docente e Coordenador do Curso Superior em Tecnologia em Análise e Desenvolvimento de Sistemas - Fatec Jales