No último sábado (31), apareceu uma mensagem do Telegram no celular de Heejin (o nome é fictício), enviada por um remetente anônimo. "Suas fotos e informações pessoais vazaram. Vamos conversar."

Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, recebeu uma foto sua tirada alguns anos atrás, enquanto ainda estava na escola, seguida por uma segunda imagem, usando a mesma foto, só que sexualmente explícita —e falsa.

Apavorada, Heejin não respondeu, mas as imagens continuaram chegando. Em todas elas, seu rosto havia sido anexado a um corpo que realizava um ato sexual, usando a sofisticada tecnologia de deepfake.

A pornografia deepfake —que em geral combina o rosto de uma pessoa real com um corpo falso em uma posição sexualmente explícita e é gerada por meio de ferramentas de inteligência artificial (IA)— é cada vez mais comum.

"Fiquei petrificada, me senti tão sozinha", contou Heejin à BBC. Mas ela não estava sozinha.

Dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furo de reportagem da sua carreira. Recentemente, tinha vindo à tona que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que deveria haver mais.

Ela começou a pesquisar nas redes sociais e descobriu dezenas de grupos de bate-papo no aplicativo de mensagens Telegram em que os usuários compartilhavam fotos de mulheres que conheciam e usavam um software de inteligência artificial para convertê-las em imagens pornográficas falsas em segundos.

"A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e pedindo que fossem transformadas em deepfakes", disse Ko à BBC.

Ko descobriu que estes grupos não tinham como alvo apenas estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.

Se fosse criado muito conteúdo usando imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Com o rótulo genérico de "salas de humilhação" ou "salas de amigas de amigos", elas costumam ter termos de entrada rigorosos.

A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2), a polícia anunciou que estava considerando abrir uma investigação do Telegram seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo por crimes cometidos na plataforma.

O governo sul-coreano prometeu impor punições mais severas para os envolvidos, e o presidente, Yoon Suk-yeol, pediu que os jovens fossem mais educados. O Telegram afirmou, por sua vez, que "combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal" em uma declaração enviada à BBC.

'Um processo sistemático e organizado'

A BBC teve acesso a descrições de várias destas salas de bate-papo. Uma delas pede que os membros postem mais de quatro fotos de alguém, junto com o nome, a idade e a região em que a pessoa vive.

"Fiquei chocada com o quão sistemático e organizado era o processo", declarou Ko. "A coisa mais horrível que descobri foi um grupo para alunas menores de idade de uma escola que tinha mais de 2.000 membros."

Nos dias após a publicação da reportagem de Ko, ativistas em defesa dos direitos das mulheres também começaram a vasculhar o Telegram —e seguir pistas.

Até o fim daquela semana, mais de 500 escolas e universidades haviam sido identificadas como alvos. O número real de pessoas afetadas ainda não foi estabelecido, mas acredita-se que muitas tenham menos de 16 anos, que é a idade de consentimento na Coreia do Sul. Uma grande parte dos suspeitos pelo crime é adolescente.

Heejin disse que tomar conhecimento da dimensão da crise piorou sua ansiedade, porque ela passou a se preocupar com quantas pessoas poderiam ter visto seus deepfakes.

Inicialmente, ela se culpou. "Eu não conseguia parar de pensar que isso aconteceu porque postei minhas fotos nas redes sociais. Será que eu deveria ter sido mais cuidadosa?"

Dezenas de mulheres e adolescentes em todo o país removeram suas fotos das redes ou desativaram por completo suas contas, com medo de terem suas imagens exploradas.

"Estamos frustradas e com raiva por termos que censurar nosso comportamento e nosso uso das redes sociais quando não fizemos nada de errado", desabafou Ah-eun, uma estudante universitária cujas colegas foram alvo.

Ah-eun contou que uma vítima da sua universidade foi informada pela polícia para não se preocupar em levar o caso adiante, pois seria muito difícil pegar o perpetrador —e que aquilo "não era realmente um crime", uma vez que "as fotos eram falsas".

No centro do escândalo está o aplicativo de mensagens Telegram. Diferentemente de sites públicos, que as autoridades podem acessar facilmente e, em seguida, solicitar que as imagens sejam removidas, o Telegram é um aplicativo de mensagens privado e criptografado.

Os usuários geralmente são anônimos, as salas de bate-papo podem ser configuradas como "chats secretos" e seus conteúdos podem ser rapidamente excluídos sem deixar rastros. Isso fez com que a plataforma se tornasse um espaço privilegiado para o comportamento criminoso prosperar.

Na semana passada, políticos e a polícia da Coreia do Sul responderam energicamente às denúncias, prometendo investigar estes crimes e levar os perpetradores à Justiça.

Na segunda-feira (2), a Agência Nacional de Polícia de Seul anunciou que investigaria o Telegram por permitir a distribuição de imagens pornográficas falsas de crianças.

O fundador do aplicativo, Pavel Durov, foi acusado na França na semana passada de ser cúmplice de uma série de crimes relacionados ao uso do aplicativo, incluindo permitir o compartilhamento de pornografia infantil.

Mas ativistas em defesa dos direitos das mulheres afirmam que as autoridades na Coreia do Sul também têm responsabilidade, uma vez que permitiram que o abuso sexual no Telegram ficasse por tanto tempo sem controle.

O país asiático já enfrentou uma crise semelhante antes. Em 2019, descobriu-se que uma rede sexual criminosa estava usando o Telegram para coagir mulheres e crianças a criar e compartilhar imagens sexualmente explícitas de si mesmas.

Na época, a polícia pediu ajuda ao Telegram para a investigação, mas o aplicativo ignorou todas as sete solicitações. Embora o chefe da rede criminosa tenha sido condenado a mais de 40 anos de prisão, nenhuma medida foi tomada contra a plataforma por medo de algo do tipo ser tachado de censura.

"Eles condenaram os protagonistas, mas, por outro lado, negligenciaram o problema, e acho que isso agravou a situação", avalia Ko.

Park Jihyun, que revelou o escândalo em 2019, quando era uma jovem estudante de jornalismo, tornou-se uma ativista política em defesa das vítimas de crimes sexuais digitais. Ela disse que desde que o escândalo do deepfake estourou, alunos e pais ligam para ela várias vezes ao dia chorando.

"Eles viram a escola deles na lista compartilhada nas redes sociais e estão apavorados."

Park tem liderado os apelos para que o governo regule ou até mesmo proíba o aplicativo na Coreia do Sul. "Se estas empresas de tecnologia não vão cooperar com as agências de segurança pública, o Estado precisa regulá-las para proteger seus cidadãos", afirmou.

Antes da última crise estourar, o Centro de Defesa das Vítimas de Abuso Sexual Online da Coreia do Sul já estava notando um aumento acentuado no número de vítimas de pornografia deepfake menores de idade.

Em 2023, eles aconselharam 86 vítimas adolescentes. Este número saltou para 238 apenas nos oito primeiros meses deste ano. Só na semana passada, outras 64 vítimas adolescentes se apresentaram.

Uma das líderes do centro, Park Seonghye, contou que na última semana sua equipe recebeu uma enxurrada de ligações e trabalhou 24 horas por dia.

"Foi uma emergência em grande escala para nós, como uma situação de guerra", afirmou. "Com a tecnologia deepfake mais avançada, agora há muito mais imagens do que costumava haver, e estamos preocupados que isso só vá aumentar."

Além de aconselhar as vítimas, o centro monitora conteúdo prejudicial e trabalha com as plataformas digitais para removê-lo. Park disse que houve alguns casos em que o Telegram removeu conteúdo a pedido deles. "Portanto, não é impossível", observou.

Em uma declaração, o Telegram disse à BBC que seus moderadores "monitoram proativamente partes públicas do aplicativo, usam ferramentas de IA e aceitam denúncias de usuários para remover milhões de conteúdos" que violam os seus termos de uso todos os dias.

Embora as organizações de direito das mulheres admitam que a IA está facilitando a exploração das vítimas, elas argumentam que esta é apenas a forma mais recente de misoginia online a se manifestar na Coreia do Sul.

Primeiro, as mulheres foram submetidas a ondas de abuso verbal na internet. Depois, veio a epidemia de câmeras escondidas, na qual elas foram filmadas, sem conhecimento, usando banheiros públicos e vestiários.

"A causa principal disso é o machismo estrutural, e a solução é a igualdade de gênero", diz uma declaração assinada por 84 grupos de mulheres.

Esta é uma crítica direta ao presidente Yoon, que negou a existência de machismo estrutural, cortou o financiamento para grupos de apoio a vítimas dele e decidiu abolir o Ministério da Igualdade de Gênero.

Lee Myung-hwa, terapeuta que trata jovens infratores sexuais, concorda que, embora o surto de abuso de deepfake possa parecer repentino, ele já estava há muito tempo à espreita.

"Para os adolescentes, os deepfakes se tornaram parte da sua cultura, são vistos como um jogo ou uma pegadinha", afirmou ela, que dirige o Centro Cultural da Juventude Aha Seoul.

Lee acrescentou que era fundamental educar os jovens, citando pesquisas que mostram que quando se diz aos infratores exatamente o que eles fizeram de errado, eles se tornam mais conscientes do que é considerado abuso sexual, o que os impede de reincidir.

Enquanto isso, o governo disse que vai aumentar as penas para aqueles que criam e compartilham imagens deepfake —e também vai punir aqueles que veem pornografia.

Isso foi anunciado após críticas de que os perpetradores não estavam sendo suficientemente punidos. Um dos problemas é que a maioria dos suspeitos são adolescentes, que normalmente são julgados pela Vara da Infância e da Juventude, onde recebem penas mais brandas.

Desde que as salas de bate-papo foram expostas, muitas foram fechadas, mas novas certamente vão ocupar seu lugar. Uma "sala da humilhação" já foi criada para atingir jornalistas que estão cobrindo este caso.

Ko, que revelou o esquema inicialmente, diz que isso tem tirado seu sono. "Continuo checando a sala para ver se minha foto foi enviada", revela.

Esta ansiedade é vivenciada por quase todas as adolescentes e mulheres jovens da Coreia do Sul. Ah-eun, a estudante universitária, disse que isso a fez desconfiar de conhecidos homens.

"Agora não posso ter certeza de que as pessoas não vão cometer esses crimes pelas minhas costas, sem que eu saiba", afirmou. "Me tornei hipervigilante em todas as minhas interações com as pessoas, o que não pode ser bom."

Este texto foi publicado originalmente aqui.