Vincent Isore / Zuma Press / Europa Press
As IA poderiam assumir o controle da internet em um prazo de 6 a 12 meses
MADRI, 12 set. (EUROPA PRESS) -
O diretor executivo da Anthropic, Dario Amodei, defendeu que se “diminua o ritmo” do desenvolvimento da inteligência artificial e alertou para o risco de “perder o controle” dessa tecnologia, o que poderia provocar “ataques cibernéticos”, “bioterrorismo” ou “graves problemas econômicos”. O chefe da OpenAI, Sam Altman, já manifestou seu apoio à proposta.
“Devemos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. Os avanços continuariam sendo rápidos e aproveitaríamos sabiamente o tempo que ganharíamos”, afirmou Amodei em um texto publicado neste sábado em seu blog.
O CEO da empresa responsável pelo Claude cita, especificamente, dois motivos para sua solicitação. O primeiro é o “autoaperfeiçoamento recursivo” da IA, ou seja, sua capacidade de se desenvolver por conta própria, o que propiciou “avanços drásticos” durante o verão e que, se não for controlado, “poderia superar nossa capacidade de compreender e controlar esses sistemas”.
O segundo é o chamado “incidente da Hugging Face da OpenAI”, no qual um grupo de IA realizou ataques cibernéticos em equipe sem que houvesse uma solicitação inicial a esse respeito, “sacrificando-se pelo bem do grupo”, e que “poderia ter causado um dano catastrófico”, segundo Amodei. Além disso, ele alerta que incidentes semelhantes ocorreram em outras empresas, incluindo a Anthropic.
TOMADA DE CONTROLE DA INTERNET ENTRE 6 E 12 MESES
Além desses ataques cibernéticos, “bioterrorismo” ou “graves problemas econômicos” poderiam ocorrer se houver um desenvolvimento “imprudente” da IA, e ele cita como exemplo o risco de a IA assumir o controle da internet em um prazo de 6 a 12 meses. Por isso, propõe medidas de segurança e regulamentação sem deixar de lado o “sucesso comercial”. “É preciso priorizar a cautela em detrimento da velocidade e a prudência em detrimento do lucro”, enfatizou.
Especificamente, ele propõe medidas como uma “avaliação integrada” por parte de atores independentes, “coordenação democrática” com as instituições públicas e “coordenação global” que una os esforços dos países democráticos e autoritários em nível mundial.
“As medidas que proponho para avançar os limites em um ritmo seguro não serão fáceis, mas acredito que devemos à humanidade tentar”, enfatizou.
Amodei foi acusado de alarmismo por suas advertências anteriores sobre o desenvolvimento da IA e seus riscos.
APOIO DE SAM ALTMAN
Em resposta, o diretor-executivo da OpenAI, Sam Altman, manifestou seu apoio à proposta de Amodei de “diminuir o ritmo” do desenvolvimento da inteligência artificial.
“Concordo com Dario que precisamos estabelecer limites para a fronteira. Esse tem sido o principal tema de debate nas últimas semanas na OpenAI”, explicou Altman nas redes sociais.
Em particular, ele menciona a implementação de avaliações independentes e destaca que esses agentes deveriam ter acesso no nível dos funcionários. “Vamos fazer o mesmo. Em breve daremos mais informações”, indicou.
Esta notícia foi traduzida por um tradutor automático