Deepfake é usada para 'tirar a roupa' de mulheres em fotos no Telegram

A tecnologia deepfake vem sendo usada para criar nudes falsos que são disseminados no Telegram. Um bot conectado a sete canais na plataforma usa Inteligência Artificial para retirar a roupa de pessoas que estão vestidas nas fotos. Até julho, o robô já havia adulterado imagens de pelo menos 104.852 vítimas, todas mulheres. A descoberta foi feita pela Sensity, empresa de cibersegurança focada em ameaças visuais, anteriormente chamada Deeptrace, e revelada em um relatório divulgado neste mês.

Prêmio elege destaques na tecnologia em 2023; VOTE no melhor app

Segundo a pesquisa, a rede social russa VK também é um importante centro de divulgação do bot, disseminado por meio de uma página com link direto para o software malicioso. O 💥️TechTudo entrou em contato com o Telegram para pedir um posicionamento sobre o caso, mas não teve retorno até a publicação desta matéria. Vale lembrar que vazar nudes é crime e o assediador pode ser preso. Entenda a situação a seguir e veja como denunciar, caso você seja vítima.

1 de 5 Bot no Telegram usa deepfake para tirar a roupa de mulheres em fotos; entenda — Foto: Pond5

Bot no Telegram usa deepfake para tirar a roupa de mulheres em fotos; entenda — Foto: Pond5

Quer comprar celular, TV e outros produtos com desconto? Conheça o Compare TechTudo

Software vem do DeepNude

O bot que roda no Telegram atualmente é uma versão de código aberto do DeepNude, software lançado em junho de 2023 sob a forma de site com apps para Windows e Linux. O programa usa aprendizagem profunda, especialmente a chamada Generative Adversarial Network (GAN), para prever como seria o corpo da mulher e então criar imagens realistas de suas partes íntimas.

Após reportagem da Vice americana no ano passado, o site sofreu represálias e foi tirado do ar no mesmo mês. Contudo, seus donos venderam a licença a um comprador anônimo por US$ 30 mil. Atualmente ele pode ser encontrado em repositórios de código aberto e sites de torrent.

Como saber se uma foto é fake? Veja dicas para descobrir

Como funciona o bot no Telegram

De uso gratuito, o sistema de automação é vinculado em um canal principal no Telegram. Os membros fazem o upload da foto com a pessoa vestida no bot, que apresenta interface de uma janela de chat comum. Em apenas alguns minutos, o robô retorna a imagem com a pessoa nua para quem a enviou.

2 de 5 Funcionamento do bot que gera nudes falsos no Telegram — Foto: Divulgação/Sensity. Montagem: Raquel Freire

Funcionamento do bot que gera nudes falsos no Telegram — Foto: Divulgação/Sensity. Montagem: Raquel Freire

As fotos vêm por padrão com uma marca d'água. Porém, em um sistema de gamificação do assédio, as marcas podem ser retiradas por meio da compra de moedas premium, que custam cerca de US$ 1,50 a dúzia (aproximadamente R$ 8,60, segundo a cotação atual).

Em posse da foto adulterada por IA, o usuário a compartilha nos outros seis grupos afiliados ao bot, onde recebem curtidas. É nesse momento que o assediador faz uso da imagem para praticar crimes de difamação e sextorsão, entre outros.

Perfil das vítimas

O perfil base da vítima é de mulheres, mesmo porque o bot só consegue "tirar a roupa" de forma bem sucedida de mulheres. Uma pesquisa feita pelos próprios administradores do canal "central hub" mostrou que a grande maioria dos alvos (63%) é composta por mulheres que os usuários conhecem na vida real.

3 de 5 Enquete sobre perfil das mulheres vítimas veiculada em grupo do bot de deepfake no Telegram — Foto: Divulgação/Sensity

Enquete sobre perfil das mulheres vítimas veiculada em grupo do bot de deepfake no Telegram — Foto: Divulgação/Sensity

Os pesquisadores da Sensity atestaram isso ao longo do estudo, avaliando que a maior parte das fotos parece ter sido retirada de redes sociais ou conversas privadas - ou seja, os assediadores são pessoas em quem as vítimas confiam.

Dezesseis por cento dos entrevistados relatou ter interesse em despir celebridades, como atrizes e cantoras; 8% indicou enviar fotos de modelos e influenciadoras do Instagram; 7% disse querer tirar a roupa via software de garotas desconhecidas na Internet; e 6% relatou não estar interessado nos nudes.

Além disso, os investigadores identificaram um número considerável de fotos de menores de idade, o que indica que criminosos estão usando o bot para gerar e divulgar pedofilia.

O que você está lendo é [Deepfake é usada para 'tirar a roupa' de mulheres em fotos no Telegram].Se você quiser saber mais detalhes, leia outros artigos deste site.