MADRID 17 nov. (Portaltic/EP) -
A OpenAI lançou uma nova ferramenta gratuita para organizações verificadas que permite detectar material de abuso sexual infantil (CSAM), tanto gerado por inteligência artificial (IA) quanto conteúdo real, além de introduzir novas medidas de prevenção no ChatGPT.
A empresa liderada por Sam Altman manifestou sua intenção de oferecer medidas de prevenção para combater a exploração e o abuso sexual infantil na internet, especialmente a criação e a divulgação desse tipo de conteúdo gerado por IA, a fim de “interromper esses comportamentos prejudiciais”.
Nesse sentido, apresentou um novo classificador de imagens capaz de detectar possíveis conteúdos de abuso sexual infantil, incluindo aqueles gerados por IA. Essa ferramenta estará disponível gratuitamente para organizações previamente verificadas por meio da API da OpenAI.
A empresa de tecnologia detalhou isso em um comunicado publicado em seu blog, onde explicou que se trata de uma ferramenta desenvolvida em colaboração com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês), que analisa os sinais visuais das imagens em busca de indícios visuais de abuso, para identificar novos conteúdos que talvez não tenham sido detectados anteriormente. Além disso, ela indica especificamente se o material pode ter sido gerado por IA.
Após identificar uma possível imagem de abuso sexual infantil, a ferramenta atribui uma pontuação ao conteúdo para ajudar as equipes de moderação a priorizar as imagens que requerem revisão.
De acordo com seus testes internos e com parceiros, a OpenAI afirmou que as imagens identificadas pelo novo classificador tinham aproximadamente “o dobro de chances de conter material abusivo”.
Além disso, a empresa identificou como o novo classificador poderia reduzir o trabalho de revisão. De acordo com suas estimativas, ele sinalizaria 48% menos imagens, encontrando aproximadamente a mesma quantidade de imagens abusivas que a ferramenta atual. Ou seja, ele aponta especificamente o conteúdo que realmente representa abuso, deixando de fora as imagens que, no fim das contas, não contêm CSAM.
Seguindo essa linha, nos testes realizados com imagens de produção revisadas por humanos, foi indicado que 72% dos alertas foram confirmados pelos revisores como “material novo de abuso sexual infantil”.
“Empresas como a OpenAI têm a responsabilidade de impedir que nossa tecnologia seja utilizada por predadores para prejudicar crianças, e também devemos colaborar com o setor em geral, com organizações de proteção à infância e com as autoridades policiais para impulsionar nossos esforços coletivos de proteção infantil online”, afirmou a empresa de tecnologia a esse respeito.
NOVAS MEDIDAS DE PREVENÇÃO NO CHATGPT
Por outro lado, a OpenAI também introduziu novos avisos e medidas de prevenção para interromper comportamentos potencialmente prejudiciais no ChatGPT.
Conforme indicado, o ‘chatbot’ exibirá avisos ao detectar tentativas de busca por material de abuso sexual infantil. Além disso, as mensagens explicarão as consequências de sexualizar menores, mesmo quando o conteúdo solicitado for gerado por IA.
Como resultado desses comportamentos, a OpenAI informou que a conversa identificada como CSAM será automaticamente excluída e o acesso do usuário ao ChatGPT ficará suspenso por um dia. No entanto, a empresa ressaltou que serão oferecidas opções de apoio especializadas para ajudar os usuários a “abandonar esses comportamentos”.
No entanto, caso sejam identificadas infrações repetidas por parte de um mesmo perfil, a OpenAI sinalizou que poderá impor restrições mais prolongadas, chegando até mesmo a encerrar a conta ou a entrar em contato com as autoridades competentes.
Todas essas medidas se somam às políticas já adotadas pela OpenAI para proibir esse tipo de material, bem como às restrições existentes sobre a geração e a busca desse tipo de conteúdo.
GUIA PARA DESENVOLVEDORES E FERRAMENTAS PARA ÓRGÃOS POLICIAIS
Por fim, a OpenAI publicou um novo guia prático voltado para desenvolvedores, com o objetivo de ajudá-los a prevenir, detectar e responder a casos de abuso sexual infantil em seus ambientes digitais.
Este guia inclui sistemas para que os usuários possam comunicar possíveis casos de abuso, ferramentas de detecção de conteúdo, procedimentos para analisar e denunciar possíveis casos e recomendações para proteger os profissionais que analisam conteúdos sensíveis, entre outras questões.
Por outro lado, foram anunciadas novas ferramentas e opções de treinamento para unidades policiais especializadas em proteção infantil. Entre elas estão complementos e ferramentas específicas para investigações, capacidade de análise de grandes volumes de dados e treinamento sobre o uso da IA em investigações.
Esta notícia foi traduzida por um tradutor automático