A segurança de fotos de crianças na internet parece ter se tornado um problema crítico no Reino Unido. Uma onda preocupante de chantagem, impulsionada por avanços em inteligência artificial, levou especialistas em segurança infantil e a Agência Nacional de Crimes (NCA) britânica a emitirem um alerta. A recomendação é clara: escolas devem remover fotos dos rostos de alunos de seus sites e redes sociais.
O motivo é que criminosos estão utilizando essas imagens públicas, aparentemente inofensivas, e as manipulando com IA para criar conteúdo sexualmente explícito. Em seguida, iniciam um processo de extorsão, exigindo dinheiro para não divulgar essas criações digitais. É um cenário que se tornou realidade, expondo uma nova dimensão na exploração infantil e na vulnerabilidade de nossa presença digital.
“O uso crescente de IA está a criar novas oportunidades para os criminosos explorarem crianças online. É vital que as escolas e os pais compreendam esta ameaça e tomem medidas para proteger os jovens”
A declaração acima, de um porta-voz da NCA, ressalta a gravidade da situação. Não se trata de uma mera especulação; a agência está lidando com casos reais e em crescimento. A facilidade com que ferramentas de IA podem ser usadas para esses fins é o que mais preocupa.
Deepfakes e a exploração digital
O termo “deepfake” não se restringe mais a filmes ou teorias da conspiração. Ele se refere à manipulação de mídias (vídeos, áudios, imagens) usando IA para substituir o rosto ou a voz de uma pessoa por outra, de forma convincente. Infelizmente, essa tecnologia poderosa está sendo desviada para propósitos maliciosos. No contexto das escolas, fotos de eventos esportivos, peças teatrais ou até mesmo do mural de funcionários acabam sendo usadas para exploração.
A preocupação não é recente. Há alguns anos, já se discutia o potencial da IA para a criação de discursos e vídeos falsos que poderiam influenciar eleições ou desinformar. No entanto, agora o foco recai sobre a vulnerabilidade de indivíduos, especialmente crianças, cujas imagens podem ser facilmente acessadas e distorcidas.
A advogada Ruth McCarthy, especialista em direito de família, comentou sobre a urgência da situação. Ela enfatizou que as escolas têm uma responsabilidade legal e moral de proteger os alunos. Para McCarthy, o risco superou os benefícios de compartilhar fotos de crianças em atividades escolares.
O dilema das escolas e a responsabilidade digital
Para muitas instituições de ensino, exibir fotos de alunos em atividades é uma forma de celebrar conquistas, engajar pais e construir uma comunidade. Contudo, essa prática, antes vista como positiva e até esperada, agora representa uma porta aberta para riscos. O custo emocional e psicológico para uma vítima de deepfake é imenso, além das possíveis repercussões legais e sociais.
A remoção de fotos não é uma tarefa simples, principalmente para escolas com um vasto arquivo digital. Além disso, a iniciativa levanta uma questão mais ampla sobre a presença de crianças nas redes sociais e em ambientes online. Até que ponto pais e escolas deveriam controlar ou monitorar essa exposição?
Algumas escolas já estão adotando políticas mais restritivas. A diretoria da Escola Primária St. John, por exemplo, confirmou que revisou suas diretrizes após os alertas. Já a Associação de Diretores e Líderes Escolares (ASCL) afirmou estar ciente do aumento dessas ameaças e incentivou todas as escolas a manterem as práticas de segurança cibernética atualizadas.
Alerta global: o impacto no Brasil
Embora a discussão esteja centrada no Reino Unido, o caso serve como um alerta crucial para o Brasil e o resto do mundo. A tecnologia não tem fronteiras. O mesmo tipo de manipulação que ocorre lá pode ser replicado aqui. A Lei Geral de Proteção de Dados (LGPD) no Brasil já impõe regras rigorosas sobre a coleta e o tratamento de dados pessoais, incluindo imagens.
A questão se aprofunda quando o assunto são imagens de menores de idade. O consentimento para o uso de fotos de crianças deve ser dado por seus responsáveis legais, e a finalidade do uso precisa ser muito clara. Mas será que o consentimento para publicar uma foto em um site escolar cobriria a possibilidade de ela ser usada para fins criminosos por terceiros?
A resposta é um claro “não”. Isso exige uma reavaliação das políticas de privacidade e segurança por parte de escolas, ONGs e qualquer instituição que trabalhe com imagens de crianças. Os pais, por sua vez, precisam estar ainda mais vigilantes sobre com quem compartilham fotos de seus filhos e onde essas imagens podem ser divulgadas.
Em um cenário onde a inteligência artificial avança rapidamente, a linha entre o uso ético e o abuso da tecnologia se torna cada vez mais tênue. Este episódio no Reino Unido é um lembrete de que a vigilância e a educação digital são mais importantes do que nunca.
Há solução para o problema?
O grande questionamento para muitos é: uma vez que uma foto está na internet, ela pode ser realmente removida? A resposta é complexa. O que se remove de um site oficial pode permanecer em caches de busca, em cópias feitas por terceiros, e em outros locais. No entanto, a remoção do material da fonte principal, ou seja, dos sites e redes sociais das escolas, é o primeiro e mais importante passo para mitigar o risco.
A NCA, ao alertar sobre a crescente ameaça, enfatiza não apenas a remoção de material, mas também a educação. Conscientizar pais, alunos e educadores sobre os perigos do compartilhamento de imagens e como a IA pode ser usada indevidamente é um caminho essencial. Além disso, a rápida evolução das técnicas de detecção de deepfakes também oferece uma esperança, mostrando que a tecnologia que cria o problema pode, em parte, ajudar a resolvê-lo.
Qual o papel de gigantes da tecnologia nesse cenário? Empresas como Google, Meta e X (Twitter) têm o poder de agir mais proativamente na identificação e remoção de conteúdo manipulado. A pressão sobre essas plataformas para que desenvolvam ferramentas eficazes de moderação orientadas por IA, que detectem e removam deepfakes de exploração infantil, é imensa. Será que essa nova forma de chantagem forçará uma mudança mais radical na forma como lidamos com a privacidade de imagens online?