A expansão da inteligência artificial (IA) trouxe muitos avanços positivos, mas também suscita sérias preocupações. Nos últimos meses, organizações e especialistas em cibersegurança alertaram para um problema alarmante: o aumento na criação e disseminação de pornografia infantil gerada por IA.
ANÚNCIO
A Internet Watch Foundation (IWF) levantou a sua voz face ao aumento sem precedentes deste tipo de conteúdo online. Só entre Abril e Setembro de 2024, receberam 74 denúncias relacionadas com pornografia infantil gerada por IA, um número que ultrapassa as estatísticas do ano anterior num período mais curto.
Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp
O mais preocupante é que essas imagens e vídeos mostram cenas de abuso sexual infantil com um nível de realismo assustador, tornando extremamente difícil sua detecção.
De acordo com o diretor geral interino da IWF, Derek Ray-Hill, os sistemas de IA responsáveis por gerar essas imagens foram treinados em material de abuso real. Isto implica que a tecnologia não só cria conteúdos ficcionais, mas também replica situações baseadas em fatos verdadeiros, amplificando os danos e a gravidade do problema. Perante isto, Ray-Hill instou os governos a modernizarem a sua legislação para lidar com este tipo de ameaças digitais.
Um fenômeno que não para de crescer
Embora a utilização de IA para gerar este tipo de conteúdo não seja nova, o seu crescimento tem sido exponencial. Segundo pesquisas recentes, os criadores desse material buscam gerar até 1.000 imagens por mês, o que reflete a magnitude do problema. Esses indivíduos utilizam plataformas como o Pixiv, popular no Japão, para promover e distribuir as imagens, facilitando o acesso a um público mais amplo.
O processo de distribuição deste conteúdo geralmente segue três etapas:
ANÚNCIO
- As imagens são geradas usando IA treinada com material real.
- Eles são promovidos em plataformas de compartilhamento de imagens.
- Os usuários interessados são redirecionados para sites onde, em troca de um pagamento, podem acessar conteúdos ainda mais explícitos.
Este esquema permitiu que o volume de imagens ilegais disparasse, ultrapassando a capacidade de organizações como a IWF de detectar e remover conteúdo com rapidez suficiente.
A urgência de agir
A rapidez com que este fenómeno cresce preocupa os especialistas, que temem que as organizações dedicadas ao combate à pornografia infantil na Internet fiquem sobrecarregadas. A IWF pediu ao Parlamento britânico que actualizasse urgentemente as leis que regulam estes crimes, dado que as tecnologias avançam mais rapidamente do que a capacidade legislativa.
Além de fortalecer as leis, é fundamental que governos e organizações internacionais colaborem no desenvolvimento de ferramentas tecnológicas capazes de identificar de forma mais eficaz esses conteúdos. A cooperação global será fundamental para impedir a propagação deste tipo de material.
Um problema que requer uma solução global
A utilização da IA para gerar e distribuir imagens de abuso infantil representa uma ameaça global. Sem uma acção coordenada a nível internacional, o problema continuará a crescer. Organizações como a IWF estão a fazer o que podem para combater este flagelo, mas enfrentam um desafio sem precedentes.
A única solução viável parece ser uma combinação de esforços de cooperação tecnológica, jurídica e internacional. Só assim poderemos proteger os menores de caírem em redes de exploração que se alimentam de lacunas na regulamentação tecnológica.
Esta perspectiva sombria sublinha a necessidade de agir de forma decisiva e rápida.
