Vincent Isore / Zuma Press / Europa Press
MADRID 12 set. (EUROPA PRESS) -
O diretor executivo da Anthropic, Dario Amodei, defendeu que se “diminua o ritmo” do desenvolvimento da inteligência artificial e alertou para o risco de “perder o controle” dessa tecnologia, o que poderia provocar “ataques cibernéticos”, “bioterrorismo” ou “graves problemas econômicos”.
“Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. Os avanços continuariam sendo rápidos e aproveitaríamos sabiamente o tempo que ganharíamos”, afirmou Amodei em um texto publicado neste sábado em seu blog.
O CEO da empresa responsável pelo Claude cita, especificamente, dois motivos para seu apelo. O primeiro é o “autoaperfeiçoamento recursivo” da IA, ou seja, sua capacidade de se desenvolver por conta própria, o que propiciou “avanços drásticos” durante o verão e que, se não for controlado, “pode superar nossa capacidade de compreender e controlar esses sistemas”.
O segundo é o chamado “incidente do Hugging Face da OpenAI”, no qual um grupo de IA realizou ataques cibernéticos em conjunto sem que houvesse uma solicitação inicial a esse respeito, “sacrificando-se pelo bem do grupo”, o que “poderia ter causado um dano catastrófico”, segundo Amodei. Além disso, ele alerta que incidentes semelhantes ocorreram em outras empresas, incluindo a Anthropic.
Além desses ataques cibernéticos, “bioterrorismo” ou “graves problemas econômicos” poderiam ocorrer se houver um desenvolvimento “imprudente” da IA. Por isso, ele propõe medidas de segurança e regulamentação sem deixar de lado o “sucesso comercial”. “É preciso priorizar a cautela em vez da velocidade e a prudência em vez do lucro”, enfatizou.
Especificamente, ele propõe medidas como uma “avaliação integrada” por parte de atores independentes, “coordenação democrática” com as instituições públicas e “coordenação global” que una os esforços dos países democráticos e autoritários em todo o mundo.
“As medidas que proponho para avançar os limites em um ritmo seguro não serão fáceis, mas acredito que devemos à humanidade tentar”, enfatizou.
Amodei foi acusado de alarmismo por suas advertências anteriores sobre o desenvolvimento da IA e seus riscos.
Esta notícia foi traduzida por um tradutor automático