A Meta confirmou na última segunda-feira que hackers conseguiram burlar seu chatbot de suporte, impulsionado por inteligência artificial, para invadir contas de alto perfil no Instagram. O incidente, que só veio à tona após pesquisadores exporem a falha, levanta sérias questões sobre a confiabilidade de sistemas de IA em medidas cruciais de segurança, como senhas.
Entre os alvos da invasão estavam a conta da Casa Branca de Barack Obama, da gigante de cosméticos Sephora e até mesmo a do Chefe Mestre Sargento da Força Espacial dos EUA. A informação, detalhada pela 404 Media, mostra a gravidade da vulnerabilidade. Usuários comuns também relataram sequestros semelhantes de suas contas no fim de semana, com queixas pipocando no Reddit e no X.
Como a IA foi enganada?
Aparentemente, os invasores encontraram uma maneira de manipular o sistema de IA do suporte da Meta. Em vez de quebrar senhas ou explorar falhas complexas, os hackers teriam simplesmente "pedido" ao bot acesso às contas. A 404 Media destacou que o processo foi surpreendentemente direto: os hackers "simplesmente pediram à Meta AI para lhes dar acesso a contas de alto perfil do Instagram – e funcionou."
A Meta, por sua vez, agiu rapidamente para resolver o problema assim que a falha foi exposta. Ainda não foram divulgados detalhes específicos sobre a natureza exata da manipulação do chatbot ou das medidas tomadas para evitar futuras ocorrências. No entanto, o episódio serve como um alerta robusto sobre os perigos potenciais de confiar cegamente em soluções de IA para funções de segurança crítica.
Esse tipo de incidente reforça a necessidade de contínuos aprimoramentos e testes rigorosos em sistemas de IA, especialmente quando estão envolvidos em processos que podem comprometer dados e acessos de usuários. A promessa de eficiência da inteligência artificial colide com a realidade de sua vulnerabilidade a técnicas de engenharia social, mesmo que aplicadas a uma máquina.