Autoridades sul-coreanas investigam Telegram por conteúdo deepfake
As autoridades sul-coreanas iniciaram uma investigação sobre a plataforma de mensagens Telegram para avaliar se ela desempenhou algum papel na distribuição de conteúdo deepfake sexualmente explícito.
O relatório da Reuters de 2 de setembro marca um aumento nos esforços do governo para combater a exploração sexual por meio de plataformas digitais. Isso se deve à crescente incidência de deep fakes visando mulheres sul-coreanas.
A investigação, conforme relatado, é a primeira vez que a polícia sul-coreana busca ação legal contra o Telegram. As alegações contra a plataforma incluem facilitar crimes sexuais por meio da disseminação de conteúdo deepfake.
Casos de pornografia deepfake aumentam entre jovens sul-coreanos
A investigação se concentra em oito bots no aplicativo Telegram que criam e espalham conteúdo adulto falso. Desde que a investigação começou no final de agosto, 88 reclamações foram registradas, e 24 suspeitos foram nomeados na distribuição de deepfakes.
Pornografia deepfake se tornou uma preocupação significativa nos últimos tempos, pois mais e mais casos estão sendo relatados. A polícia sul-coreana registrou 297 crimes sexuais deepfake somente neste ano, em comparação com 156 casos no ano anterior. Alarmantemente, tanto as vítimas quanto os infratores são geralmente adolescentes, o que sugere que esse problema é comum entre os jovens.
A Coreia do Sul se tornou o país mais impactado pela pornografia deepfake no mundo. De acordo com a Security Hero, uma empresa de proteção contra roubo de identidade sediada nos EUA, 53% das vítimas de pornografia deepfake são cantoras e atrizes sul-coreanas.
Governo anuncia nova legislação para coibir deepfakes explícitos
Devido ao risco crescente, o governo sul-coreano também anunciou recentemente que uma nova legislação será promulgada para impedir a produção e disseminação de deepfakes sexualmente explícitos. A Korea Communications Commission também pediu que as empresas de mídia social intensifiquem ainda mais a remoção e o bloqueio desse tipo de conteúdo.
Ao mesmo tempo, as autoridades sul-coreanas pediram ajuda aos seus homólogos franceses para lidar com o Telegram e melhorar a comunicação direta com a empresa. O chefe da Agência de Política Nacional da Coreia do Sul, Cho Ji-ho, declarou que a agência planeja verificar aplicativos de mensagens como o Telegram para possíveis ligações com crimes.
Telegram enfrenta escrutínio internacional
O Telegram foi acusado de permitir conteúdo banido no passado, e este é um caso semelhante. Pavel Durov, o fundador da plataforma, está enfrentando várias acusações na França e está atualmente sob investigação. A polícia francesa está investigando a possibilidade de a plataforma ter alguma relação com o crime organizado.
Poucos dias após sua prisão na França, soube-se que o governo indiano estava investigando o Telegram por laços com criminalidade. Isso colocou mais pressão no Telegram para lidar com as preocupações levantadas pelo governo sul-coreano.
O Telegram declarou que modera conteúdo e remove conteúdo proibido, incluindo pornografia infantil. No entanto, a capacidade da empresa de fazer isso foi questionada. A empresa negou as alegações contra Durov, dizendo que não é razoável responsabilizar o proprietário da plataforma pelas ações dos usuários.