Peter Kneffel/dpa - Arquivo
MADRID 29 jan. (Portaltic/EP) - A Amazon detectou material de abuso sexual infantil em um banco de dados que planejava usar para treinar seus modelos de inteligência artificial, mas o removeu antes e notificou as autoridades, como parte de uma tendência crescente na indústria.
A Amazon é uma das grandes empresas de tecnologia que desenvolve inteligência artificial e, para seu treinamento, requer grandes quantidades de dados, o que a leva a recorrer a conjuntos de dados já disponíveis na internet. Em um desses conjuntos, a empresa encontrou material de abuso sexual infantil e o denunciou ao National Center for Missing and Exploited Children (NCMEC), conforme relatado pela Bloomberg.
A Amazon garante que removeu esse material do conjunto de dados antes de usá-lo no treinamento de sua IA. Isso ocorreu no ano passado e é apenas um dos mais de um milhão de casos relatados ao NCMEC em 2025.
De acordo com o meio citado, a maior parte desses relatórios foi apresentada pela Amazon. “Adotamos uma abordagem deliberadamente cautelosa ao escanear os dados de treinamento do modelo básico, incluindo os dados da web pública, para identificar e eliminar [material de abuso sexual infantil] conhecido e proteger nossos clientes”, explicou um porta-voz à Bloomberg.
O número também mostra uma tendência ascendente em relação aos 67.000 relatórios relacionados à IA que a indústria de tecnologia enviou ao NCMEC em 2024 e aos 4.700 de 2023. Esses relatórios podem incluir desde fotografias e vídeos gerados por IA até conversas sexualmente explícitas com chatbots e até mesmo fotografias de vítimas reais. A esse respeito, o porta-voz garantiu que, até agora, nenhum dos relatórios apresentados continha material gerado por IA. No entanto, esses relatórios relacionados à IA são uma pequena parte dos que o NCMEC recebe. A categoria maior inclui material de abuso sexual infantil trocado em mensagens privadas ou carregado nas redes sociais e na nuvem.
Esta notícia foi traduzida por um tradutor automático