Um ataque ao Instagram mostrou que nem só de supercomputadores vivem as preocupações com segurança da inteligência artificial. Na última segunda-feira, veio à tona que invasores usaram o agente de suporte ao cliente da Meta, baseado em IA, para roubar contas da rede social.
A estratégia era curiosamente simples: os criminosos pediram ao agente que vinculasse as contas de Instagram a e-mails que eles controlavam. E, para surpresa de muitos, a inteligência artificial acatou o pedido, entregando o acesso em mãos aos atacantes.
Até então, boa parte da discussão sobre cibersegurança e IA girava em torno de modelos como o Mythos, da Anthropic, que se mostrou tão bom em 'hackear' que a empresa decidiu não liberá-lo para o público geral. O medo era de que sistemas superpoderosos de IA sobrecarregassem a infraestrutura de computadores.
“Você está delegando seu trabalho cognitivo à IA. E isso não é bom para nós.”
No entanto, o incidente no Instagram prova que explorações muito mais básicas ainda podem causar um estrago considerável. À medida que as empresas continuam a transferir mais tarefas para a IA, esses ataques, que são comparativamente menos sofisticados, tornam-se cada vez mais difíceis de ignorar. Grace Huckins, ao analisar o caso, questiona: será que estamos subestimando os riscos mais simples?
Chatbots estão nos deixando menos inteligentes?
Outra preocupação crescente, destacada pela psicóloga Gloria Mark, da Universidade da Califórnia, Irvine, é a influência das tecnologias digitais em nossas capacidades cognitivas. Mark teme que a proliferação de ferramentas de IA, como ChatGPT e Claude, possa acelerar um enfraquecimento de nossas habilidades mentais.
Suas pesquisas anteriores já indicavam uma queda acentuada na capacidade de atenção ao longo do tempo, resultando em mais estresse e desempenho inferior. Agora, com a ascensão dos chatbots, essa tendência pode se intensificar. A psicóloga é taxativa ao afirmar que estamos "delegando nosso trabalho cognitivo à IA", e que isso "não é bom para nós".
Essa dependência da IA para tarefas que antes exigiam raciocínio humano pode enfraquecer o pensamento crítico e a inteligência emocional, habilidades cruciais para o desenvolvimento pleno. Jessica Hamzelou ressalta que, felizmente, Gloria Mark acredita que ainda podemos reverter esse curso, mudando a forma como nos relacionamos com essas tecnologias.
Em um cenário mais amplo, a própria Anthropic, criadora do Mythos, pediu recentemente uma desaceleração global no desenvolvimento de IA, citando o risco de os modelos se "auto aperfeiçoarem" e recomendando um plano coordenado para conter essa evolução. Curiosamente, céticos apontam que o momento desse pedido é "conveniente demais", sugerindo talvez um olhar atento às motivações por trás dessa súbita cautela.