MADRID 14 set. (Portaltic/EP) -
A preocupação com o ritmo que o desenvolvimento da inteligência artificial (IA) está alcançando levou o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, a fazer um apelo aos Estados e às empresas para que regulamentem uma tecnologia que oferece muitos benefícios à sociedade, mas que também coloca em risco os direitos humanos.
Türk solicitou medidas urgentes e significativas para enfrentar os riscos sem precedentes da IA em uma carta aberta dirigida aos Estados e às empresas responsáveis pela IA de ponta, com o objetivo de “traçar um plano de ação para regulamentar os modelos avançados de IA de ponta, com base no direito internacional dos direitos humanos”.
“O verdadeiro desafio hoje em dia é como equiparar o ritmo de uma governança eficaz da IA ao ritmo de seu desenvolvimento acelerado”, expôs ele, insistindo que “precisamos de medidas urgentes adaptadas aos riscos sem precedentes que a IA de ponta apresenta”.
Türk reconheceu em seu texto os benefícios que essa tecnologia já demonstrou ter, sobretudo no que diz respeito ao conhecimento científico, ao acesso à informação em vários idiomas e à produção agrícola.
Mas ele também aborda os danos que ela já está causando: a discriminação, a erosão da privacidade em grande escala, a automação de serviços essenciais que excluem pessoas e coletivos, e as campanhas de desinformação.
Prejuízos aos quais a sociedade global já está exposta e que serão intensificados com os agentes de IA devido à sua capacidade de “traduzir objetivos em ações, executar fluxos de trabalho complexos e operar com supervisão humana limitada ou nula”, ressalta.
E ele relembrou o “hack” ao Hugging Face, protagonizado por agentes autônomos de IA da OpenAI, ao afirmar que “acontecimentos recentes demonstraram que sistemas avançados podem gerar comportamentos fora de seus parâmetros operacionais previstos, contornar salvaguardas, praticar engano e perseguir objetivos de forma autônoma de maneiras que seus próprios desenvolvedores não previram”.
OS DIREITOS HUMANOS, EM RISCO
“Todos os direitos humanos estão em risco”, afirma categoricamente, ao mesmo tempo em que insta os Estados e as empresas pioneiras em inteligência artificial a colaborarem para compreender e reforçar os controles já aplicados a essa tecnologia, bem como a implementar uma supervisão interna e independente para aumentar a transparência e a prestação de contas.
No que diz respeito aos discursos proferidos nos últimos dias pelos diretores executivos dos principais laboratórios de IA do mundo, OpenAI e Anthropic, sobre a necessidade de interromper ou desacelerar o ritmo de desenvolvimento, Türk destaca como passo importante limitar o uso do autoaperfeiçoamento recursivo, um processo pelo qual uma IA redesenha autonomamente seu próprio código para se tornar mais inteligente, em um ciclo contínuo e acelerado.
Uma abordagem mais colaborativa entre os países — em referência à corrida pela IA liderada pelos Estados Unidos e pela China — e uma corregulação do setor, sem deixar de exigir que as empresas ajam com responsabilidade e prestem contas caso não o façam, completam as propostas com as quais Türk defende um desenvolvimento da IA que não comprometa os direitos humanos.
“A geração que agora está entrando na idade adulta herdará as consequências das decisões que estão sendo tomadas sobre esse assunto sem ter tido voz nelas. Devemos garantir a ela que essas decisões sejam tomadas de forma aberta, levando em conta seus direitos e com a humildade que a magnitude desse desafio exige”, concluiu Türk.
Esta notícia foi traduzida por um tradutor automático