A Inteligência Artificial (IA) está transformando a educação, mas levanta sérias preocupações sobre a privacidade das crianças. Enquanto ferramentas digitais prometem um ensino personalizado, o rastro de dados que deixam é imenso e talvez não esteja totalmente protegido.
Aqui no Brasil Vibe Coding, exploramos como as leis atuais lutam para acompanhar essa evolução, especialmente com assistentes de IA que constroem perfis detalhados de nossos filhos.
A Eficácia do COPPA na Era da IA
O Children's Online Privacy Protection Act (COPPA) foi criado em 1998, uma época de internet discada. Sua principal função era impedir que sites coletassem e-mails de crianças sem consentimento parental.
Em 2023, a FTC multou a Amazon em $25 milhões por violações do COPPA relacionadas ao armazenamento de gravações de voz de crianças pela Alexa. Essa foi a maior multa da história do COPPA, com 25 anos, mas representou apenas 0,004% da receita total da Amazon naquele ano, que foi de $575 bilhões.
É evidente que o COPPA não foi projetado para os desafios atuais da IA, que incluem:
- Sistemas de tutoria com IA que constroem modelos detalhados de padrões de aprendizado, estados emocionais e tendências cognitivas de uma criança.
- Assistentes de voz que retêm anos de pedidos, perguntas e conversas de crianças.
- Plataformas de EdTech que vendem dados comportamentais para terceiros sob isenções de "fins educacionais".
- Brinquedos com IA que engajam crianças em conversas prolongadas e transmitem áudio para servidores na nuvem.
- Aplicativos de aprendizagem socioemocional que avaliam a saúde mental de crianças e sinalizam padrões preocupantes para administradores ou corretores de dados.
A Máquina de Vigilância da EdTech
Os fechamentos de escolas na era da pandemia aceleraram a adoção do EdTech, como Google Classroom e Canvas. Muitas escolas assinaram contratos com revisão mínima de privacidade.
Essas plataformas coletam uma infinidade de dados, incluindo:
Comportamento acadêmico: Cada resposta, tentativa, erro e o tempo gasto em cada problema. Padrões de erros e a correlação entre hora do dia e desempenho.
Dados socioemocionais: Plataformas como BrightBytes e Panorama Education usam pesquisas perguntando a crianças a partir dos 5 anos sobre sentimentos e situações domésticas. Esses dados são armazenados e analisados.
Sinais biométricos: Softwares de rastreamento ocular e dinâmica de digitação. Algumas plataformas usam webcams para avaliar o "engajamento" através da análise de expressões faciais.
Conteúdo de comunicação: Registros completos de mensagens e histórico de edições em ferramentas colaborativas são retidos.
Tudo isso é processado por sistemas de IA que constroem modelos longitudinais de alunos individuais, acompanhando-os desde o ensino fundamental até a graduação.
A Lacuna do "Funcionário Escolar"
O FERPA (Family Educational Rights and Privacy Act) criou uma exceção de "funcionário escolar". Isso permite que fornecedores que trabalham com escolas acessem dados de alunos sem consentimento adicional, desde que estejam prestando um serviço educacional.
Empresas de EdTech interpretaram amplamente que qualquer fornecedor contratado por uma escola pode acessar dados de alunos. Essa interpretação permite que os dados fluam livremente entre empresas, cada uma apontando para o contrato escolar como autorização.
A FTC tem tentado fechar essa lacuna, mas a jurisdição é contestada, criando um espaço onde os dados das crianças podem desaparecer.
Brinquedos com IA: Nodos de Vigilância na Sala de Estar
Em 2017, o FBI emitiu um aviso incomum: brinquedos conectados à internet representam um risco de privacidade para crianças.
Isso foi motivado por brinquedos como a boneca My Friend Cayla, com microfone e conexão à internet. Ela gravava conversas de crianças e as enviava para a Nuance Communications, uma empreiteira de defesa. A agência federal da Alemanha classificou Cayla como dispositivo de vigilância ilegal e ordenou que os pais destruíssem as bonecas.
Nos Estados Unidos, o brinquedo continuou a ser vendido, mostrando a complexidade e a urgência de regulamentações mais modernas para proteger a privacidade infantil na era da IA.
Continue acompanhando o Brasil Vibe Coding para mais novidades sobre tecnologia e privacidade.