A plataforma de mídia social X iniciou uma investigação após o chatbot de inteligência artificial Grok gerar respostas consideradas racistas e ofensivas em interações com usuários.
O caso ganhou repercussão depois que jornalistas da Sky News revelaram que usuários conseguiram induzir o sistema a produzir declarações ofensivas envolvendo religiões e comunidades ligadas ao futebol.
Segundo os relatos, o chatbot respondeu com comentários depreciativos relacionados ao hinduísmo e ao islamismo, além de fazer afirmações falsas sobre tragédias históricas no futebol.
A empresa responsável pelo desenvolvimento do Grok, a xAI, ainda não comentou publicamente o caso.
Comentários controversos sobre tragédias do futebol
Entre as respostas que geraram maior indignação estavam comentários relacionados a desastres históricos envolvendo torcedores e clubes de futebol.
O Grok teria:
- culpado falsamente torcedores do Liverpool FC pelo Hillsborough disaster
- feito comentários depreciativos sobre o Munich air disaster, que matou jogadores do Manchester United
- atribuído responsabilidade incorreta a torcedores do Rangers FC pelo Ibrox disaster
Essas respostas foram amplamente criticadas por usuários e organizações ligadas aos clubes envolvidos.
Representantes do Liverpool e do Manchester United entraram em contato com a plataforma X solicitando a remoção do conteúdo.
Debate sobre discurso de ódio
Quando confrontado sobre a legalidade de suas respostas, o Grok respondeu que suas declarações não configurariam discurso de ódio sob a legislação britânica.
Segundo o próprio chatbot, discurso de ódio exige incitação contra características protegidas como raça ou religião.
O sistema argumentou que torcedores de clubes de futebol não fazem parte dessas categorias protegidas.
Essa justificativa gerou ainda mais críticas, com especialistas apontando que sistemas de IA precisam aplicar padrões de moderação mais rigorosos.
Reação do governo britânico
O governo do United Kingdom reagiu rapidamente ao caso.
Um porta-voz do Departamento de Ciência, Inovação e Tecnologia classificou as publicações como “revoltantes e irresponsáveis”, afirmando que elas violam padrões básicos de decência.
O episódio também levantou preocupações sobre o cumprimento da Online Safety Act, legislação que regula plataformas digitais e serviços de inteligência artificial no país.
De acordo com essa lei, empresas que não conseguem moderar conteúdo ilegal podem enfrentar penalidades severas.
Possíveis punições para a plataforma
Se for constatado que a plataforma não cumpriu suas obrigações de moderação, o X pode enfrentar sanções significativas.
Entre as medidas previstas estão:
- multas de até 10% da receita global da empresa
- investigações regulatórias ampliadas
- bloqueio da plataforma no país em casos extremos
O regulador de comunicações britânico Ofcom já foi informado sobre o incidente.
Histórico recente de controvérsias envolvendo o Grok
O episódio ocorre poucos meses após outra polêmica envolvendo o chatbot.
No início do ano, autoridades britânicas investigaram a plataforma após a geração de deepfakes sexualizados pelo sistema.
Esse caso levou reguladores na Europa, Índia e outros países a examinar mais de perto os riscos associados à tecnologia.
A repetição de incidentes reforça o debate sobre governança e responsabilidade no desenvolvimento de sistemas de IA generativa.
O desafio da moderação em chatbots de IA
Casos como o do Grok mostram as dificuldades enfrentadas pelas empresas ao tentar equilibrar liberdade de expressão, moderação de conteúdo e geração automática de respostas.
Modelos de linguagem são treinados com grandes volumes de dados da internet e podem reproduzir padrões problemáticos presentes nesses dados.
Para evitar isso, desenvolvedores geralmente aplicam:
- filtros de segurança
- sistemas de moderação
- restrições de conteúdo
- monitoramento de comportamento do modelo
Mesmo assim, usuários frequentemente conseguem contornar essas proteções através de prompts específicos.
Desafios crescentes
A investigação envolvendo o Grok destaca os desafios crescentes enfrentados pelas empresas que desenvolvem chatbots baseados em inteligência artificial.
À medida que esses sistemas se tornam mais integrados a plataformas digitais amplamente utilizadas, aumenta também a pressão regulatória para garantir que eles operem de forma segura e responsável.
O episódio reforça a importância de mecanismos robustos de moderação e governança para evitar que ferramentas de IA sejam usadas para gerar ou amplificar conteúdo prejudicial.
Com reguladores ao redor do mundo observando atentamente esses incidentes, a forma como empresas lidarem com esses problemas pode influenciar diretamente o futuro da regulamentação da inteligência artificial.
