MADRID 11 mar. (EUROPA PRESS) -
A presidente da Signal, Meredith Whittaker, alertou sobre o uso de agentes de Inteligência Artificial (IA) para realizar tarefas diárias para os usuários, o que pode causar problemas "profundos" de segurança e privacidade ao acessar livremente seus dados pessoais.
Um agente de IA é um sistema ou programa capaz de executar tarefas de forma autônoma em nome de um usuário ou de outro sistema. Assim, os agentes abrangem uma ampla gama de funcionalidades além do processamento de linguagem natural, como tomada de decisões, solução de problemas, interação com ambientes externos ou execução de ações.
Portanto, essa tecnologia pode ser implementada em uma variedade de aplicativos para resolver diferentes tipos de tarefas. No caso de usuários comuns, os agentes podem ser projetados para, por exemplo, agendar eventos no calendário do smartphone, reservar ingressos para shows ou enviar mensagens para contatos automaticamente.
Nesse sentido, embora representem um avanço no uso diário da IA aplicada a vários setores, a presidente da Signal Foundation, organização sem fins lucrativos dedicada a promover a comunicação privada acessível e segura, Meredith Whittaker, alertou sobre os possíveis riscos de segurança que o uso dessa tecnologia tem para os usuários.
Especificamente, Whittaker comparou o uso de agentes de IA a "colocar seu cérebro em um frasco", pois eles executam tarefas de forma autônoma, substituindo o papel dos usuários em suas tarefas diárias. Ele também apontou que permitir que a IA execute tarefas em nome dos usuários leva a "um problema profundo" de privacidade e segurança com relação aos seus dados.
Isso foi detalhado pelo presidente da fundação, que é proprietária da rede social de mensagens instantâneas Signal Messenger, em uma conferência realizada como parte do evento South by Southwest (SXSW), realizado na cidade de Austin (Texas, Estados Unidos), cuja participação foi captada pelo TechCrunch.
Whittaker explicou que, para que os agentes de IA funcionem de forma autônoma e realizem as tarefas para as quais foram programados, eles têm acesso a todos os dados pessoais que manipulam nos diferentes aplicativos em que são implementados.
Além disso, se o agente de IA for alimentado por um modelo "suficientemente poderoso", ele será executado em um servidor na nuvem porque "não há como isso acontecer em um dispositivo", o que significa terceirizar os dados dos usuários com os quais você está trabalhando.
"É quase certo que ele será enviado a um servidor na nuvem, onde será processado e enviado de volta", disse Whittaker, enfatizando que há, portanto, "um problema profundo de segurança e privacidade" em relação ao uso de agentes e dados de usuários.
"Deve ser possível executar o processo em todo o sistema com algo como permissão de root, acessando cada um desses bancos de dados, provavelmente de forma clara, porque não há modelo para fazer isso de forma criptografada", disse ela.
Whittaker disse que o uso de agentes de IA e as questões de segurança relacionadas "ameaçam romper a barreira hematoencefálica entre a camada do aplicativo e a camada do sistema operacional", dando à IA acesso a todos os dados armazenados no dispositivo, independentemente de sua relevância.
Aplicado ao aplicativo de mensagens Signal, Whittaker disse que a integração de um agente de IA destruiria a privacidade das mensagens dos usuários, um recurso característico do aplicativo. Isso porque, explicou ele, o agente precisa acessar o aplicativo para, por exemplo, poder enviar mensagens de texto para outros contatos. Da mesma forma, ele também precisa extrair dados para realizar ações como resumir mensagens.
Com tudo isso em mente, Whittaker concluiu que a implantação em massa de agentes de IA prejudicaria ainda mais a privacidade e a segurança das pessoas para promover "um robô gênio mágico que cuidará das demandas da vida".
Esta notícia foi traduzida por um tradutor automático