A xAI, empresa de inteligência artificial ligada a Elon Musk, está no centro de uma polêmica legal no Reino Unido. A deputada trabalhista britânica Jess Asato entrou com uma ação judicial, alegando que a ferramenta Grok foi usada para criar imagens falsas e sexualizadas dela sem qualquer consentimento. O caso, que já está na Alta Corte de Londres, pode ser um divisor de águas para determinar a responsabilidade de empresas de IA pelo conteúdo gerado por seus sistemas.
Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, revelou que soube das imagens em janeiro. Ela conta que o Grok produziu representações dela usando biquíni sem autorização, uma experiência que descreveu como “violadora”.
Parlamentar britânica processou a xAI pela criação de imagens falsas suas pelo Grok
A acusação central contra a xAI
No processo, a deputada acusa a xAI de desrespeitar leis de proteção de dados e de uso indevido de informações privadas. O cerne da questão é que a empresa teria permitido que usuários utilizassem o Grok para gerar esse tipo de conteúdo, sem mecanismos de proteção adequados.
De acordo com Asato, a empresa deveria ter implementado salvaguardas para bloquear a geração de imagens sexualizadas de pessoas reais sem consentimento. Em uma entrevista ao Financial Times, a parlamentar detalhou que, além das fotos de biquíni, o Grok também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para uma agressão sexual.
Ela afirmou que o material começou a surgir após ela criticar publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial. Para Asato, seu objetivo é claro:
“Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças.”
O precedente nos Estados Unidos
O caso de Jess Asato no Reino Unido não é isolado. Uma ação judicial semelhante foi apresentada no estado de Nova York, nos Estados Unidos, por Ashley St Clair, mãe de um dos filhos de Elon Musk. Ela também alegou que o Grok foi usado para criar imagens explícitas falsas envolvendo sua imagem, incluindo uma representação dela menor de idade.
Ravi Naik, advogado que representa Jess Asato, sublinha que o debate principal desse processo reside na responsabilidade dos desenvolvedores. Para ele, é crucial que as empresas sejam responsabilizadas pela forma como suas ferramentas são projetadas e disponibilizadas ao público.
“O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, pontuou o advogado ao Financial Times.
O governo britânico e órgãos reguladores já haviam demonstrado preocupação com o uso do Grok para gerar grande volume de imagens sexualizadas de mulheres e, em alguns casos, de crianças. As autoridades do Reino Unido, inclusive, chegaram a ameaçar a xAI em janeiro, o que mostra a crescente tensão em torno da moderação de conteúdo gerado por IA.