MADRID 31 dez. (Portaltic/EP) -
As empresas de redes sociais e os serviços de conteúdo de streaming deram aos usuários um pequeno reduto de controle para ajustar o conteúdo que o algoritmo de recomendação mostra a eles, mas isso não resolve a eficácia com que ele se ajusta aos seus interesses reais ou o problema mais fundamental de como ele funciona.
O algoritmo de recomendação é um sistema automatizado que usa inteligência artificial para oferecer novos conteúdos aos usuários, geralmente com base na análise de seus dados de atividade na plataforma social: onde clicam, quanto tempo param para assistir a um vídeo ou ouvir uma música, que foto "curtiram", entre outros fatores.
Ela está presente em serviços como Instagram, Netflix, TikTok, Spotify e YouTube, para citar alguns, como uma forma de chamar a atenção dos usuários com vídeos, fotos ou músicas que correspondam aos seus interesses e mantê-los na plataforma ou fazer com que eles queiram voltar a ela.
Em geral, as pessoas não têm controle sobre o que é mostrado nas recomendações. Elas podem excluir pesquisas ou todo o histórico, ou indicar que gostam ou não gostam de um conteúdo para tentar alterar a frequência com que ele é exibido.
No entanto, isso não impede que o algoritmo exiba recomendações que nem sempre correspondem às preferências dos usuários. Além disso, mesmo quando foram feitas tentativas de modificar o algoritmo por meio do conteúdo consumido (tentando se concentrar exclusivamente no conteúdo do qual eles querem receber conteúdo semelhante), um único clique ou um segundo extra em uma foto ou vídeo diferente arruinou o esforço.
Nos últimos meses, o Pinterest, o TikTok, o Instagram, o Threads e o Spotify anunciaram uma nova ferramenta de configuração, já implementada ou em teste, por meio da qual os usuários podem solicitar se desejam ver mais ou menos determinados tópicos nas recomendações.
No caso do Pinterest, essa configuração é limitada ao conteúdo gerado por IA e permite que os usuários ativem ou desativem uma série de categorias propostas pela rede social. O TikTok, por sua vez, já incluía uma barra para gerenciar tópicos, que pode ser movida para a esquerda para ver menos conteúdo ou para a direita para ver mais, o que agora também permite modificar a frequência com que o conteúdo gerado por IA aparece.
O Instagram permitirá que os usuários escolham em quais tópicos - alguns sugeridos pela IA, outros inseridos manualmente pelos usuários - eles querem ver mais vídeos curtos ("reels"), para que eles apareçam com mais frequência, ou removê-los, para reduzir a frequência. No caso do Threads, a empresa de tecnologia está adotando uma abordagem diferente: solicitar diretamente ao algoritmo que mostre mais ou menos conteúdo sobre tópicos específicos, usando o comando "Dear Algo".
O Spotify juntou-se a essa pequena abertura para a personalização com o teste de uma nova lista de reprodução na qual, por meio de instruções, os usuários podem ajustar o tipo de músicas que desejam ouvir. Para o restante das recomendações, ele oferece o que chama de "perfil de gosto", em que os usuários podem remover músicas individuais e listas de reprodução que não sejam de seu interesse.
UM ALGORITMO QUE PRENDE OS USUÁRIOS
A falta de controle sobre o algoritmo de recomendação é uma das principais críticas a esse elemento central das redes sociais e dos serviços de streaming, que é projetado para fornecer conteúdo continuamente e reter usuários.
Algumas plataformas exibem algumas partes clicáveis de conteúdo que são constantemente atualizadas, enquanto outras exibem recomendações em uma sucessão interminável de conteúdo que força os usuários a rolar a tela para cima e para baixo para continuar a assistir.
O design dessas plataformas levou ao surgimento do que é conhecido como "rolagem da desgraça", o fenômeno dos usuários que rolam compulsivamente as recomendações, o que pode ter efeitos adversos sobre a saúde, como fadiga, ansiedade ou culpa por passar muito tempo nisso.
Essas consequências são mais perceptíveis entre os adolescentes, que têm sido muito noticiados devido a problemas de dependência de mídia social e problemas de saúde mental, como distúrbios de imagem, incluindo dismorfia corporal, perda de concentração, pensamento crítico e habilidades sociais.
De acordo com um estudo recente da OnePlus, os espanhóis passam, em média, quase dois dias por mês navegando nas redes sociais e caem na "navegação absurda" em todas as áreas, embora na maioria das vezes enquanto estão deitados na cama, assistindo a um filme ou série ou no banheiro.
Para atenuar, até certo ponto, esse impacto negativo, as redes sociais introduziram notificações e limitações no tempo de uso, voltadas especialmente para os usuários mais jovens, na forma de controles parentais e contas específicas para adolescentes, com o objetivo de envolver os adolescentes em seu relacionamento com esses serviços digitais.
Além disso, alguns estudos apontaram que as recomendações às vezes incluem conteúdo que viola as políticas das próprias plataformas, como desinformação ou discurso de ódio, que os usuários podem consumir intensamente, enquanto rolam a tela, sem perceber.
Devido ao volume de dados que manipulam e ao impacto que têm sobre as pessoas, uma das solicitações que as empresas de tecnologia vêm fazendo há anos é que sejam mais transparentes com seus algoritmos de recomendação e treinamento, especialmente com os fatores que realmente influenciam os resultados que oferecem e como funcionam.
A denúncia de vieses, sejam eles raciais, ideológicos ou outros, também tem sido uma constante, resultado dos preconceitos presentes nos dados de treinamento.
Esta notícia foi traduzida por um tradutor automático