Como identificar deep fake
Entenda os riscos associados a peças deep fake e o que fazer caso desconfie de manipulação de imagem.
Publicado em: 15 de agosto de 2023.
Autora: Marlise Brenol
Deep fake é uma técnica de inteligência artificial que combina o uso de algoritmos de aprendizado profundo (deep learning) com manipulação de mídia, como imagens e vídeos, para criar conteúdo falso. O termo deep fake é uma junção das palavras deep learning (aprendizado profundo) e fake (falso). A técnica começou a ser empregada para produzir montagens de celebridades em vídeos pornográficos em 2017 e desde então tem sido disseminada pela web.
Essa técnica é utilizada para substituir ou sobrepor rostos e vozes em vídeos, criando falas ou atitudes de pessoas nunca realizadas na realidade. Os algoritmos de deep fake são treinados em grandes conjuntos de dados contendo imagens e vídeos autênticos do indivíduo a ser imitado. Esses dados são usados para “ensinar” o modelo a aprender características faciais, expressões e nuances vocais específicas da pessoa.
Uma vez treinado, o modelo pode gerar um conteúdo falso com base em padrões aprendidos, permitindo a criação de vídeos realistas de figuras públicas, celebridades ou qualquer pessoa cujos dados estejam disponíveis em quantidade suficiente.
Leia também I Golpe do amor: entenda como funciona e previna-se
Como identificar deep fake
Saber o que é deep fake pode ser desafiador, pois a tecnologia por trás desses vídeos falsos está em constante evolução e se torna cada vez mais sofisticada. Porém, a postura de desconfiança em relação a um vídeo de muito impacto pode ajudar a detectar um possível deep fake. Além disso, observe:
- ● Inconsistências: os audiovisuais podem conter irregularidades visuais, como bordas pixeladas, distorções na imagem, falta de sincronia entre o áudio e os movimentos labiais ou diferenças na iluminação e sombras.
- ● Movimentos faciais e expressões: se os movimentos faciais e expressões parecerem estranhos ou pouco naturais para a figura em cena, pode haver alguma manipulação. Peças deep fake podem ter dificuldade em recriar expressões complexas de maneira realista e acabar reproduzindo movimentos faciais excessivamente rígidos ou robóticos.
- ● Comparação de fontes confiáveis: no caso de o vídeo envolver uma figura pública, procure outras fontes confiáveis, como canais de notícias autênticos ou contas verificadas nas redes sociais, para conferir a veracidade do vídeo. Se o mesmo vídeo aparecer apenas em fontes desconhecidas ou suspeitas, isso pode ser indício de deep fake.
Leia também I Entenda como pagar por aproximação no celular
Leia também I Conheça a campanha da Serasa para combater vídeos fakes
Assista I Como o Serasa Premium protege os seus dados? - Serasa Ensina
Origem da técnica deep fake
A técnica deep fake começou a ganhar notoriedade e a se tornar mais conhecida no final de 2017 e início de 2018. Um dos casos mais emblemáticos para impulsionar a conscientização sobre essa tecnologia foi a divulgação de um vídeo no qual o rosto da atriz Gal Gadot, conhecida por interpretar a Mulher-Maravilha no cinema, foi sobreposto em um conteúdo pornográfico.
Esse incidente foi um exemplo preocupante de como a tecnologia de deep fake poderia ser usada de forma maliciosa e prejudicial, visando à difamação e à criação de conteúdo falso sem o consentimento das pessoas envolvidas. O vídeo em questão se espalhou rapidamente pela internet e chamou a atenção da mídia e do público para o potencial uso nocivo dos vídeos.
O caso destacou a necessidade de abordar as implicações éticas, jurídicas e de segurança associadas à disseminação de deep fake, além de incentivar o desenvolvimento de técnicas de detecção e mitigação para combater o uso mal-intencionado dessa tecnologia. Desde então, a conscientização aumentou significativamente, e governos, empresas e pesquisadores têm trabalhado para enfrentar os desafios.
Leia também I Machine learning: o que é e como transforma o varejo
Riscos associados ao deep fake
Embora o desenvolvimento de deep fake tenha implicações interessantes em campos como entretenimento e criação de conteúdo, também levanta preocupações éticas e de segurança. Peças deep fake podem ser usadas para disseminar informações falsas, difamar pessoas, criar desinformação e propagar discursos falsos, afetando a confiança nas mídias e causando danos à reputação de indivíduos ou organizações.
Portanto, é crucial conscientizar as pessoas sobre essa tecnologia e desenvolver mecanismos para detectar e combater o uso malicioso de deep fake. Entenda três riscos:
Propagação de desinformação e notícias falsas: com deep fake, é possível criar vídeos convincentes de figuras públicas, políticos ou outras personalidades, fazendo algo nunca feito ou falando palavras nunca ditas. Esses vídeos falsos podem ser usados para espalhar desinformação e notícias falsas, causando danos significativos à reputação das pessoas envolvidas ou confusão e pânico no público. Além disso, vídeos deep fake podem ser usados para manipular a opinião pública e influenciar eleições, minando a integridade do processo democrático.
Prejuízos à confiança nas mídias sociais e em vídeos autênticos: o uso generalizado de deep fake pode levar a um clima de desconfiança em relação a canais autênticos de jornalismo e vídeos autênticos. Com o avanço da tecnologia a tendência é se tornar mais difícil para o público discernir entre o conteúdo genuíno e o falso. Isso pode prejudicar a confiança nas fontes de informação e nos meios de comunicação, abrindo espaço para a manipulação e o aproveitamento indevido de informações.
Cibercrimes e extorsão: a tecnologia de deep fake pode ser usada por criminosos para cometer fraudes e extorsões. Por exemplo, um criminoso pode criar um vídeo falso de uma pessoa fazendo algo comprometedor ou ilegal e, em seguida, usar esse vídeo como meio de chantagem, ameaçando divulgá-lo publicamente, a menos que a vítima pague um resgate. Essa atividade pode ser devastadora para a privacidade e a segurança das pessoas.
Como monitorar dados pessoais com a Serasa
O ambiente digital está bastante desafiador para os consumidores, em especial para o monitoramento dos dados pessoais. Os riscos associados ao cibercrime estão em evidência. Para ficar no controle da sua vida financeira, é importante acompanhar tudo que acontece com seus dados.
O Serasa Premium é o serviço de assinatura da Serasa que monitora 24 horas por dia seu CPF e CNPJ, trazendo informações sobre consultas, variação do Serasa Score, vazamento de dados na Dark Web, negativações e muito mais.
Só com a conta Premium você tem atendimento exclusivo na Serasa e controla se seu Serasa Score pode ou não ser consultado pelo mercado. O Premium avisa sempre que:
- ● seu CPF e CNPJ for consultado;
- ● seu Serasa Score variar;
- ● uma negativação* estiver prestes a acontecer (antes do comunicado oficial, que é gratuito e para todos os consumidores);
- ● seus dados vazarem na Dark Web.
*Importante: a Serasa comunica previamente todos os consumidores sobre negativações em seu CPF, sem qualquer custo. O alerta de negativações do Serasa Premium é apenas uma funcionalidade adicional desse serviço (que permite a ciência em tempo real), mas não substitui o comunicado oficial.
