Um assistente de inteligência artificial da Meta teria sido usado por hackers para interceptar contas de Instagram. Uma vulnerabilidade no chatbot da empresa permitiu a alteração do endereço de e-mail associado a diversos perfis, abrindo caminho para ações maliciosas, conforme revelou o site 404 Media.
O modus operandi dos invasores era bastante direto: eles solicitavam uma recuperação de conta e, em seguida, vinculavam um novo endereço de e-mail ao perfil. O problema reside no fato de que a inteligência artificial da Meta supostamente atendia a esse pedido sem exigir etapas adicionais de segurança, como uma senha ou a tão crucial autenticação em dois fatores.
Com o código enviado para o e-mail do hacker, o acesso à conta se tornava livre, permitindo a mudança da senha e, consequentemente, o “roubo” do perfil. Esse método, segundo a reportagem, foi amplamente divulgado em grupos de cibercriminosos no Instagram e já foi relatado por diversos usuários nas redes sociais. Há, inclusive, menções a perfis verificados, como o da marca Sephora, que teriam sido hackeados nos últimos dias. Contudo, ainda não há confirmação se esses casos específicos foram vítimas desse tipo de ataque.
Desde o fim do ano passado, a Meta implementou um chatbot de IA para oferecer suporte técnico aos seus aplicativos, incluindo processos de denúncia e recuperação de contas. A ideia é agilizar o atendimento, mas parece que, neste caso, a automação abriu uma brecha inesperada.
“Isso se parece menos com um ataque tradicional de injeção de prompt ou um ‘AI jailbreak’ e mais com uma falha na forma como confiança e autoridade foram delegadas a um fluxo de trabalho de suporte baseado em IA,”
Essa é a avaliação de Fernando de Falchi, gerente de Engenharia de Segurança da empresa Check Point Software Brasil. Para ele, a situação não configura um caso de injeção de prompt — onde a IA é induzida ao erro por um comando específico —, mas sim um problema estrutural na delegação do suporte técnico para a inteligência artificial.
Hackers simplesmente pediram para enviar código de recuperação a um novo e-mail e assistente da Meta atendeu (Imagem: Reprodução/404 Media)
Meta afirma ter resolvido o problema
Em um comunicado enviado à reportagem original, a Meta confirmou que o problema já havia sido resolvido. A empresa também informou que está trabalhando para auxiliar as contas que foram prejudicadas por essa vulnerabilidade.