A deputada trabalhista britânica Jess Asato moveu uma ação judicial de grande repercussão contra a xAI, empresa de inteligência artificial de Elon Musk, na Alta Corte de Londres. O processo ocorre após a parlamentar alegar que a ferramenta Grok foi utilizada para criar imagens falsas e sexualizadas dela sem qualquer consentimento, levantando um debate crucial sobre a responsabilidade da IA.
Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, relatou ter descoberto as imagens em janeiro. Segundo ela, a ferramenta produziu representações suas em biquíni e até um vídeo simulando agressão sexual. A parlamentar classificou a experiência como “violadora” e espera que a ação judicial estabeleça um precedente, reequilibrando os direitos individuais frente ao poder das grandes empresas de tecnologia.
O cerne da acusação contra a xAI
No processo, a deputada acusa a xAI de descumprir leis relacionadas à proteção de dados e ao uso indevido de informações privadas. Ela argumenta que a empresa permitiu que usuários utilizassem o Grok para gerar conteúdo sexualizado de pessoas reais sem consentimento. A ação sustenta que a xAI deveria ter implementado mecanismos de proteção robustos para impedir tais criações.
Em entrevista ao Financial Times, Asato detalhou que, além das imagens em biquíni, a ferramenta também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para sofrer uma agressão sexual. O material, segundo a parlamentar, começou a ser criado após ela criticar publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial.
Precedentes e implicações legais
O caso de Jess Asato ganha força ao seguir uma ação semelhante apresentada nos Estados Unidos. Ashley St Clair, mãe de um dos filhos de Elon Musk, alegou em Nova York que o Grok também foi usado para criar imagens explícitas falsas envolvendo sua imagem, incluindo uma representação dela menor de idade.
Para Ravi Naik, advogado que representa Asato, a discussão central reside na responsabilidade dos desenvolvedores pela forma como suas ferramentas são projetadas e disponibilizadas ao público. “O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou Naik ao Financial Times. Este debate é fundamental para o futuro da regulamentação da inteligência artificial, com impacto potencial em todo o mundo, incluindo o Brasil e a Região dos Lagos.
Reação do governo britânico e medidas da X
O uso do Grok para gerar grandes quantidades de imagens sexualizadas de mulheres reais e, em alguns casos, de crianças, já havia provocado reações do governo britânico no início do ano. Em janeiro, autoridades do Reino Unido ameaçaram adotar medidas contra a plataforma X após a circulação desse tipo de conteúdo. O órgão regulador de mídia Ofcom também abriu uma investigação sobre o assunto.
Inicialmente, a empresa de Musk informou que limitaria a criação dessas imagens a usuários pagantes da rede social. A medida foi criticada pelo primeiro-ministro Keir Starmer, que a classificou como “horrível”. Poucos dias depois, o X anunciou que havia interrompido completamente a função que permitia ao Grok editar fotografias de pessoas reais para exibi-las usando roupas mais reveladoras.
Outros incidentes envolvendo o Grok
Além das imagens sexualizadas, o Grok esteve envolvido em outro episódio de repercussão no Reino Unido. A ferramenta identificou incorretamente dois policiais de Hampshire como participantes da prisão de Henry Nowak. Uma das profissionais citadas erroneamente foi Christi Hill, que trabalhou como policial por 12 anos.
Segundo relatos, Hill precisou se deslocar para um local seguro após passar a ser alvo de publicações na plataforma X. Diversas postagens pediam que ela e outro policial, também identificado de forma incorreta pela inteligência artificial, fossem localizados, presos ou até sofressem atos de violência. O Rio das Ostras Jornal acompanha o caso e seus desdobramentos na regulamentação da inteligência artificial.
0 comentários:
Postar um comentário
Obrigado pelo seu comentario.
Fique sempre ligado do que acontece em nossa cidade!