A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) deram um prazo de 30 dias para a plataforma X (antigo twitter) tomar medidas urgentes contra o uso indevido da inteligência artificial Grok.
O objetivo é impedir que a ferramenta seja usada para criar e espalhar conteúdos sexualizados não autorizados de pessoas reais.
Medidas exigidas:
1. Remoção de conteúdo: A plataforma deve criar um plano técnico para identificar, revisar e apagar, em até 30 dias, qualquer imagem ou vídeo sexualizado gerado pelo Grok a partir de comandos de usuários.
2. Bloqueio de contas: Suspensão imediata das contas que produziram imagens sexuais ou erotizadas de crianças, adolescentes ou adultos sem permissão.
3. Canal de denúncia: Criação de um sistema fácil e transparente para que as pessoas denunciem o uso ilegal de seus dados pessoais na criação desses conteúdos sintéticos.
O documento, divulgado nesta terça-feira (20), estabelece um prazo máximo de 30 dias para que a plataforma crie procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos dessa natureza gerados pelo Grok a partir de comandos de usuários.
Essas exigências vieram após denúncias e reportagens que comprovaram o uso da IA para criar deepfakes pornográficos envolvendo mulheres e menores de idade.
As autoridades argumentam que o X não é apenas um intermediador, mas sim coautor das deepfakes, pois fornece a ferramenta de IA que interage com o usuário para criar o material. Por isso, a retirada imediata do conteúdo é obrigatória, mesmo com o que previa o Marco Civil da Internet, entendimento que foi recentemente reforçado pelo STF.
