Usuários em comunidades criam imagens manipuladas com conotação sexual de mulheres do seu círculo, gerando alerta sobre deepfakes cada vez mais presentes.
Alerta: Este artigo apresenta informações que podem ser sensíveis para algumas leitoras. Era a pausa do seu expediente como garçonete em um restaurante de São Paulo. Momento de relaxar — e de conferir o celular. Maria* estranhou duas mensagens que recebeu pelo Instagram. Ambas abordavam o mesmo assunto, relacionado a mulheres.
No entanto, ao abrir as mensagens, Maria se deparou com imagens perturbadoras e falsas que denegriam a imagem das mulheres. Ela percebeu que se tratava de um grupo que disseminava deepfakes com o intuito de espalhar ódio e desinformação. Maria ficou chocada com a crueldade por trás dessas ações e decidiu denunciar a situação imediatamente.
Alerta: Mulheres enfrentam grupo que dissemina ódio com deepfakes
Era um aviso que levou a um turbilhão do qual ela ainda não saiu. Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.
‘Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu’, ela conta à BBC News Brasil.
Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália. Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.
Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena de sexo. Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas.
Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo. Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum momento, porque violam as regras da rede social.
Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo. É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.
Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros. Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.
Participantes do grupo disseminam ódio com deepfakes de mulheres
A reportagem da BBC News Brasil presenciou em tempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas conhecidas. Depois de algum tempo, quem tinha feito o pedido recebia a imagem manipulada de volta.
Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação — de uma mulher vestida. A seguir, apareceu uma versão digitalmente modificada em que ela aparecia nua.
Participante 1 – Quem é? Participante 2 – Mãe de um amigo meu kkkk Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de forte hostilidade em relação a mulheres.
Participante 3 – Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho Participante 4 – Ou apanhando Participante 5 – Mulher é um ser maligno e também é o ser mais falso da
Fonte: © G1 – Tecnologia
Comentários sobre este artigo