MADRID 16 jul. (Portaltic/EP) -
A Meta incorporou alertas proativos que o assistente Meta AI enviará aos pais quando seus filhos adolescentes abordarem temas delicados em uma conversa, como suicídio ou automutilação, seguindo o exemplo do que o Instagram já faz e para reforçar os recursos de apoio que já oferece.
A empresa de tecnologia anunciou novas medidas de proteção voltadas para o uso que os adolescentes fazem do “chatbot” do Meta AI, para que tenham uma experiência adequada à sua idade e para detectar se “podem estar passando por um momento difícil”.
Atualmente, quando os adolescentes expressam em uma conversa que podem estar pensando em suicídio ou em se automutilar, o Meta AI mostra a eles recursos para que entrem em contato com linhas de apoio ou os incentiva a conversar com um adulto de confiança.
A essa função soma-se agora o envio de notificações proativas aos pais, como as que o Instagram já envia caso identifique que seus filhos pesquisam repetidamente termos relacionados ao suicídio ou à automutilação em um curto período de tempo.
No caso do “chatbot” de IA, essa notificação será acionada diante de referências claras a esses temas, mas também diante de sinais mais sutis que sugiram que o adolescente possa estar em risco, conforme informa a Meta em um comunicado divulgado em seu blog.
As conversas marcadas por um tema sensível também passarão pela análise de uma equipe de moderação humana antes do envio da notificação. No entanto, a Meta avisa que “se a intenção de um adolescente for ambígua, eles agirão com cautela e alertarão os pais”.
Esses alertas da Meta AI estão disponíveis para os pais que já utilizam o controle parental do Instagram nos Estados Unidos, no Reino Unido, na Austrália e no Canadá, e a intenção da Meta é estendê-los aos demais pais em todo o mundo antes do final do ano.
Além disso, os pais têm em seus dispositivos a configuração de conteúdo restrito, que limita a exibição de conteúdo +13 nas contas dos adolescentes e que agora também se aplica às conversas que seus filhos mantêm com a Meta AI.
Da mesma forma, a Meta está trabalhando com especialistas em saúde mental e adolescentes para melhorar a forma como o Meta AI responde às perguntas deles relacionadas a suicídio e automutilação.
Esta notícia foi traduzida por um tradutor automático