A acusação ao Grok por criar conteúdos sexuais ilegais está a gerar uma reacção coordenada de vários governos. Malásia, França e Índia manifestaram preocupação com imagens geradas pelo chatbot de inteligência artificial no X, incluindo conteúdos sexualizados envolvendo menores.
Investigação na Malásia por conteúdos indecentes
As autoridades da Malásia anunciaram no sábado a abertura de uma investigação formal. A decisão surge após denúncias sobre o uso indevido do Grok para manipular imagens de mulheres e menores.
Criação e difusão são crimes ao abrigo da lei
Segundo a Comissão de Comunicações e Multimédia, a criação ou transmissão de conteúdos indecentes, ofensivos ou prejudiciais constitui uma infracção criminal. O regulador irá investigar utilizadores do X suspeitos de violar a lei e convocar representantes da empresa.
Embora o X não seja um prestador de serviços licenciado no país, a comissão afirmou que a plataforma tem o dever de impedir a disseminação de conteúdos nocivos.
Veja também: Adolescentes em risco com apps de IA, alerta relatório
Índia exige revisão urgente do Grok
Na Índia, o governo ordenou uma revisão completa do Grok. A medida pretende garantir que o chatbot não gera conteúdos com nudidade, sexualização ou material sexualmente explícito.
Prazo de 72 horas e risco legal
De acordo com a Bloomberg, o X tem 72 horas para apresentar um relatório ao Ministério da Electrónica e das Tecnologias da Informação. Caso contrário, poderá enfrentar acções legais ao abrigo da legislação penal e das leis de TI.
O ministro das Tecnologias da Informação, Ashwini Vaishnaw, afirmou que está a ser considerada uma lei mais forte para regular as redes sociais.
França aponta possível violação do DSA europeu
A França acusou o Grok de gerar conteúdos sexuais “claramente ilegais” sem consentimento. Segundo o governo francês, as imagens poderão violar o Regulamento dos Serviços Digitais da União Europeia.
Obrigações das grandes plataformas
O regulamento exige que grandes plataformas mitiguem activamente o risco de disseminação de conteúdos ilegais. Algumas das imagens já foram removidas.
Resposta do X e da xAI
Elon Musk afirmou que o X remove conteúdos ilegais, suspende contas e coopera com as autoridades. Já a xAI respondeu a um pedido de comentário com a frase: “Legacy Media Lies”.
O próprio Grok reconheceu “falhas nas salvaguardas” e afirmou que estão a ser corrigidas com urgência.