O Instituto de Defesa de Consumidores (Idec) protocolou, no fim da tarde desta quinta-feira (14), uma denúncia junto à Agência Nacional de Proteção de Dados (ANPD) contra a ferramenta de inteligência artificial Grok, integrada à plataforma X (antigo Twitter). Segundo a entidade, a tecnologia estaria envolvida em graves infrações à Lei Geral de Proteção de Dados (LGPD), especialmente pela criação de imagens sexualizadas com base em dados de pessoas reais, muitas vezes sem consentimento ou conhecimento das vítimas.
A iniciativa amplia uma série de ações já adotadas pelo Idec sobre o tema, entre elas o envio de um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. Com a denúncia formalizada, o objetivo é que a ANPD conduza uma investigação detalhada sobre o funcionamento da ferramenta e adote medidas urgentes para mitigar os danos identificados.
Entre as solicitações encaminhadas à Autoridade Nacional, o Idec pede a suspensão imediata das funcionalidades do Grok que utilizam dados de pessoas reais, a interrupção do uso de dados pessoais no treinamento e na operação do sistema e a exigência de que a plataforma X apresente, dentro de prazo a ser definido, informações completas sobre denúncias recebidas e providências adotadas em relação a esses conteúdos.
“O funcionamento contínuo de sistemas de inteligência artificial que causam danos graves e previsíveis mostra a urgência de uma atuação firme do poder público. A proteção de dados pessoais, especialmente de crianças e adolescentes, não pode ser tratada como um detalhe em nome da inovação”, afirma o Idec.
Segundo o Idec, a ferramenta permite a criação de imagens sexualizadas que mantêm características reais das pessoas retratadas. Isso significa que mulheres, crianças e adolescentes podem ter suas imagens manipuladas e expostas sem consentimento.
No caso de crianças e adolescentes, o Instituto destaca que a prática é ainda mais grave, pois a legislação brasileira impõe regras mais rigorosas para o uso de dados desse público. “Estamos falando de um sistema que pode produzir conteúdos sexualizados envolvendo menores de idade, a partir de dados reais, sem qualquer controle efetivo”, alerta o Idec.
A entidade também aponta falta de transparência por parte da empresa responsável, já que a política de privacidade da ferramenta não está disponível em português, o que dificulta que usuários brasileiros compreendam como seus dados são usados e quais direitos podem exercer.
Para o Idec, o caso se assemelha a situações já analisadas pela própria ANPD, nas quais a Agência reconheceu a necessidade de medidas urgentes quando há uso de dados em larga escala e risco de danos graves ou irreversíveis. A circulação massiva dessas imagens e a dificuldade de removê-las da plataforma ampliam ainda mais o impacto sobre as vítimas.
Foto: Freepik
Entre em contato com o AcontecendoAqui se tiver interesse em divulgar seus trabalhos para a Comunidade AcontecendoAqui. Envie um e-mail para [email protected]
