Ferramenta integrada ao X amplia alcance de abusos digitais e provoca reação de autoridades no Brasil e no exterior
A ferramenta de inteligência artificial Grok, desenvolvida para a rede social X (antigo Twitter), tornou-se o centro de uma grave polêmica após denúncias de que estaria sendo utilizada para a geração de imagens pornográficas sem o consentimento das vítimas. Relatos apontam que usuários têm recorrido à tecnologia para solicitar a remoção de roupas em fotografias de mulheres publicadas na plataforma, prática que configura violação de direitos de imagem e dignidade.
Em situações ainda mais alarmantes, a mesma tecnologia estaria sendo aplicada sobre imagens de crianças, o que caracteriza crime previsto em lei. Especialistas alertam que o uso desse tipo de recurso agrava a violência digital e potencializa danos psicológicos e sociais às vítimas.
Segundo a especialista ouvida na reportagem, o ordenamento jurídico brasileiro oferece proteção robusta nesses casos. “Nós temos uma legislação muito forte que protege imagem e reputação do indivíduo e também temos legislação específica que protege grupos mais vulneráveis, com uma proteção maior em várias leis com relação a mulheres, crianças e adolescentes”, afirmou.
Diferencial preocupante
O Grok se diferencia de outras inteligências artificiais amplamente utilizadas por permitir a geração de conteúdo sexualmente explícito. Além disso, o fato de estar integrado a uma das maiores plataformas de mídia social do mundo amplia significativamente seu alcance e potencial de dano. Usuários podem simplesmente marcar o Grok em uma publicação com um pedido, e a resposta é exibida de forma pública, o que facilita o uso indevido da tecnologia para fins criminosos e abusivos.
Repercussão internacional
A controvérsia rapidamente ultrapassou fronteiras. No Brasil, a deputada federal Erika Hilton (PSOL) apresentou uma representação ao Ministério Público Federal contra a ferramenta. No cenário internacional, países e blocos como a União Europeia, o Reino Unido, a Índia e a Malásia também se manifestaram contra o uso do Grok.
A Comissão Europeia, inclusive, determinou que o X retenha todos os documentos relacionados à ferramenta até o final do ano, sinalizando a gravidade com que o caso vem sendo tratado pelas autoridades regulatórias internacionais.
Medidas consideradas insuficientes
Para a especialista entrevistada, o episódio evidencia falhas estruturais na moderação de conteúdo. “Esse episódio apenas demonstra que, se não houver um trabalho direto, proativo e preventivo da própria rede, não basta escrever na política de uso que não pode fazer isso. Precisa de fato haver uma ação efetiva educativa e também de penalização, de remoção”, destacou.
Após a repercussão negativa, o X anunciou a restrição da edição de imagens apenas para usuários pagantes. A medida, no entanto, foi recebida com críticas, já que esses assinantes continuam autorizados a fazer solicitações que podem resultar na sexualização de mulheres e crianças.
“Estamos vivendo um momento muito sombrio quando olhamos como está sendo utilizada a IA e como estão sendo disseminadas essas imagens dentro do ambiente digital”, concluiu a especialista, alertando para os riscos do uso inadequado e desregulado das tecnologias de inteligência artificial.
