Escândalo atinge mais de 500 escolas e universidades, com muitas vítimas menores em grupos de bate-papo do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais vazaram.’ Essa situação levanta preocupações sobre como a pornografia e as tecnologias de deepfake podem ser utilizadas de forma maliciosa.
Com o avanço das técnicas de manipulação, é possível que imagens e vídeos sejam alterados para criar conteúdos pornográficos falsos, colocando em risco a privacidade de indivíduos. A disseminação de deepfakes pode causar estragos irreparáveis, transformando vidas em um pesadelo digital. A proteção contra esse tipo de conteúdo é essencial.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, deparou-se com uma foto sua, capturada anos atrás durante seu tempo na escola, seguida por uma segunda imagem, que utilizava a mesma foto, mas agora de forma sexualmente explícita — e completamente falsa. Apavorada, Heejin, que não é seu nome verdadeiro, optou por não responder, mas as imagens continuaram a chegar. Em cada uma delas, seu rosto havia sido digitalmente anexado a um corpo realizando um ato sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso e pornográfico — está sendo produzida em maior escala, principalmente através de ferramentas de inteligência artificial.
Como a Tecnologia Deepfake Distorce a Realidade
O trauma devastador enfrentado por aqueles que têm suas imagens utilizadas em ‘deepfakes’ pornográficos é inegável. ‘Fiquei petrificada, me senti tão sozinha’, revelou Heejin à BBC. Contudo, ela não estava sozinha. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado um relatório que se tornaria um marco em sua carreira. Recentemente, havia sido revelado que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava determinada a descobrir mais. Ao investigar nas redes sociais, ela encontrou dezenas de grupos de bate-papo no aplicativo de mensagens Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos.
Artigos Relacionados
A Difusão de Conteúdo Pornográfico Falso
‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e pedindo que fossem convertidas em deepfakes’, relatou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias; havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental. Se um número suficiente de conteúdo fosse criado usando as imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Comumente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas frequentemente impõem regras de entrada rigorosas.
A Reação da Sociedade e das Autoridades
A reportagem de Ko, publicada no jornal Hankyoreh, causou grande choque na Coreia do Sul. Na segunda-feira, 2 de setembro, a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu implementar punições mais severas para os envolvidos e o presidente fez um apelo para que os jovens recebessem uma educação mais adequada sobre o tema. O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Salas de Bate-Papo e a Normalização da Humilhação
A BBC teve acesso a descrições de várias dessas salas de bate-papo. Uma delas solicita que os membros postem mais de quatro fotos de alguém, juntamente com o nome, criando um ambiente propício para a disseminação de conteúdo pornográfico e falso. A situação revela não apenas a vulnerabilidade das vítimas, mas também a necessidade urgente de abordar a questão da pornografia deepfake e suas implicações sociais.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo