A Comissão Europeia abriu uma investigação formal contra a plataforma X, antigo Twitter, após denúncias de que usuários conseguiram gerar deepfakes sexualizados com a inteligência artificial Grok.
A apuração concentra-se na criação de imagens sem consentimento, inclusive envolvendo pessoas que aparentam ser menores de idade.
O caso reacende o debate sobre segurança digital e responsabilidade das big techs. Ao mesmo tempo, coloca em evidência os limites legais do uso de inteligência artificial em redes sociais na União Europeia.
O que motivou a apuração da União Europeia?
A investigação teve início depois que organizações de direitos digitais alertaram autoridades europeias sobre a facilidade para produzir imagens sexualizadas realistas por meio da IA do X.
Segundo os relatos, bastava inserir comandos simples para obter conteúdos sensíveis, mesmo com filtros supostamente ativos. Em resultado, reguladores passaram a avaliar se a plataforma falhou em impedir abusos previsíveis.
Além dos riscos à privacidade, esse tipo de material pode violar leis de proteção à imagem e normas específicas voltadas à segurança de crianças e adolescentes. Por esse motivo, o tema ganhou prioridade dentro da Comissão Europeia.
Sob a Lei de Serviços Digitais (DSA), grandes plataformas precisam identificar riscos sistêmicos, adotar medidas preventivas e agir rapidamente para remover conteúdos nocivos. Portanto, a UE busca saber se o X avaliou corretamente esses perigos antes de ampliar o uso do Grok.
Como funciona a IA Grok e quais são os riscos?
O Grok é um modelo de inteligência artificial integrado à plataforma X, capaz de gerar textos e imagens a partir de comandos dos usuários.
Apesar das diretrizes internas, testes indicaram brechas nos sistemas de segurança. Assim, imagens sensíveis conseguiram ser produzidas sem bloqueios eficazes.
O problema se torna ainda mais grave porque os resultados são altamente realistas. Dessa forma, pessoas comuns podem ter dificuldade para diferenciar deepfakes de fotografias verdadeiras.
Especialistas em ética digital vêm alertando, há meses, que modelos generativos sem controles rigorosos facilitam crimes como difamação, extorsão e violações de privacidade. Consequentemente, cresce a pressão por regulamentação mais dura.
Quais punições o X pode sofrer?
Se ficar comprovada a violação das regras da DSA, o X poderá receber multas de até 6% do faturamento anual global.
Além disso, reguladores podem exigir mudanças técnicas, revisão de políticas internas e reforço nos mecanismos de moderação automatizada e humana.
Outro possível desdobramento envolve a criação de padrões mais rígidos para o uso de IA generativa em plataformas públicas. Assim, o caso pode se tornar um marco regulatório para toda a indústria.
Enquanto isso, outras autoridades ao redor do mundo acompanham o processo. A decisão da União Europeia, tende a influenciar futuras leis sobre inteligência artificial e redes sociais.
