MADRID 2 jan. (Portaltic/EP) -
Grok, o chatbot de Elon Musk, permitiu que os usuários criassem imagens sexualizadas de crianças e as distribuíssem no X, uma ação que contorna as proteções da ferramenta de inteligência artificial.
Nos últimos dias, o Grok atendeu a pedidos de alguns usuários para despir mulheres e crianças nas imagens que eles compartilharam com o chatbot, conforme relatado pela Bloomberg.
Conforme relatado pela CNBC, o abuso do Grok começou nos últimos dias do ano e se intensificou até a véspera do Ano Novo, quando se espalhou pela plataforma X, expandindo a distribuição de imagens explícitas sem o conhecimento ou o consentimento das vítimas.
O abuso dessa IA é agravado pelo uso de fotografias de menores de idade. Esse é um tipo de conteúdo conhecido como material de abuso sexual infantil (CSAM), que é ilegal e proibido pelas políticas de uso aceitável da própria xAI, a empresa por trás do Grok.
Especificamente, as políticas afirmam que, para cumprir a lei, a empresa não permite o uso de seu serviço para "retratar imagens de pessoas de forma pornográfica" ou "a sexualização ou exploração de crianças".
"Identificamos falhas nas proteções e estamos resolvendo-as com urgência: o CSAM é ilegal e proibido", reconheceu a Grok em resposta a um usuário que expôs o problema. Os funcionários da Grok ainda não comentaram a questão.
Esta notícia foi traduzida por um tradutor automático