O mais atual relatório da Internet Watch Foundation (IWF), publicado nesta segunda-feira, enfatiza como a inteligência artificial (IA) está sendo utilizada para criar um número cada vez maior de vídeos deepfake de abuso sexual infantil. No relatório, a IWF chamou a atenção para o incremento na realidade e qualidade desses vídeos, com um realismo perturbador na simulação de abuso de menores.
Esses vídeos são produzidos usando a IA para sobrepor o rosto de uma pessoa em um vídeo real. Os avanços significativos na tecnologia permitiram que criminosos produzam e distribuam essas imagens com facilidade, tanto na internet convencional quanto na dark web. Em um fórum da dark web, os autores se vangloriam da capacidade de criar qualquer tipo de pornografia infantil que desejarem, em alta definição.
Para dar uma gravidade adicional ao problema, a IWF relatou que identificou os primeiros exemplos convincentes de vídeos de IA retratando abuso sexual de crianças. Em 2023, quando a IWF identificou os primeiros conteúdos gerados por IA, o realismo e a qualidade eram baixos. Agora, um ano depois, a qualidade e o realismo desses vídeos aumentaram consideravelmente.
Dan Sexton, diretor de tecnologia da IWF, afirmou que o futuro deve trazer vídeos com maior qualidade e realismo. A IWF descobriu que os criminosos haviam replicado e compartilhado modelos de IA com mais de 100 vítimas de abuso. Além disso, nove vídeos deepfake foram encontrados em um fórum na dark web dedicado a material de abuso sexual infantil, circulando entre março e abril deste ano.
Com o contínuo avanço da tecnologia de IA generativa , é esperado que os predadores online terão cada vez mais capacidade para criar vídeos gráficos mostrando o abuso sexual de crianças, conforme alertou Susie Hargreaves, CEO da IWF. Além do perigo imediato destes vídeos, há um grande risco psicológico à medida que as vítimas conhecidas podem encontrar-se não só revivendo seu trauma, mas também sendo objeto de novos cenários de violência.
Esta situação cria um desafio urgente e complexo tanto para legisladores quanto para as empresas responsáveis pela tecnologia de IA e seus produtos. A IWF está insistindo em uma ação mais enérgica contra este uso pernicioso da tecnologia de IA, mas ainda se debate sobre as melhores maneiras de regulamentá-la e controlá-la. Mais do que nunca, é imprescindível o engajamento de todos os setores da sociedade para combatermos juntos este uso deturpado da tecnologia.
