Essa notícia começou com algo que já saiu totalmente do controle. Reguladores da Ásia e da Europa apertaram o cerco contra o Grok, chatbot de Elon Musk, depois que usuários passaram a usar a ferramenta para criar deepfakes sexualizados — aquelas imagens falsas feitas por IA — incluindo casos que aparentemente envolvem menores. Essas imagens foram geradas e espalhadas dentro do X, o que fez o problema explodir rápido.
Diante disso, a Coreia do Sul entrou oficialmente na jogada e pediu que o X apresente medidas concretas para proteger adolescentes de conteúdo nocivo criado pelo Grok. O recado foi direto: não basta prometer, tem que mostrar o que vai mudar.
Pressão cresce na Ásia-Pacífico
Na Índia, o governo ordenou que o X reforçasse os controles do Grok e entregasse um relatório em até 72 horas, explicando quais providências foram tomadas. O aviso foi claro: se conteúdos obscenos ou ilegais continuarem aparecendo, podem vir consequências legais.
No Sudeste Asiático, a situação ficou ainda mais pesada. Indonésia e Malásia chegaram a bloquear temporariamente o Grok, alegando que as proteções não impediam a criação e o compartilhamento de imagens sexuais manipuladas sem consentimento, inclusive envolvendo mulheres e menores.
Já na Austrália, a reguladora eSafety abriu investigação sobre deepfakes de pessoas “digitalmente despidas” geradas pelo Grok, analisando o caso tanto como material adulto abusivo quanto como possível risco à segurança infantil.
Europa entra no modo fiscalização
Em Bruxelas, a Comissão Europeia ordenou que o X preserve documentos e dados internos ligados ao Grok até o final de 2026. Ao mesmo tempo, deixou claro que a empresa tem entre 60 e 90 dias para provar que está reduzindo os riscos. Traduzindo: o relógio está correndo.
No Reino Unido, o regulador Ofcom abriu uma investigação para verificar se o X violou a Lei de Segurança Online. Se for comprovado, o resultado pode ser multas pesadas. A França também entrou na história, somando denúncias sobre deepfakes do Grok a uma investigação já existente contra o X.
Resposta do X não convence
Como reação, o X e a xAI limitaram algumas funções de geração e edição de imagens do Grok apenas para assinantes pagantes. O problema é que reguladores e especialistas criticaram a medida, dizendo que isso não resolve a raiz do problema: a capacidade da IA de criar imagens abusivas continua lá.
Com cobranças que agora vão de Seul a Bruxelas, os governos estão mandando um recado bem claro: a responsabilidade não é só de quem usa a ferramenta, mas também das plataformas e dos sistemas de IA que permitem esse tipo de conteúdo existir.
IA sem freio virou problema global?
Agora quero saber de você: na sua opinião, o X deveria ser responsabilizado diretamente pelo que o Grok gera, ou isso ainda é culpa só de quem usa a ferramenta?
Comenta aí o que você acha e vamos conversar.
Fonte: csoonline