Sebastian Gollnow/dpa - Arquivo
MADRID 13 set. (EUROPA PRESS) -
O CEO da OpenAI, Sam Altman, anunciou que a empresa de tecnologia criadora do ChatGPT não abrirá o capital este ano devido aos riscos de segurança apresentados pelos modelos avançados de inteligência artificial. “Seria um momento pouco aconselhável para entrar no mercado de ações”, afirmou.
“Levando em conta tudo o que está ocorrendo em termos de segurança, neste momento seria imprudente abrir o capital. Não sentimos pressão para fazê-lo”, explicou o diretor executivo da OpenAI em entrevista à revista ‘Fortune’.
Altman enfatizou que a empresa ainda tem “muito a fazer no que diz respeito ao que será necessário para a segurança e o alinhamento”, ao mesmo tempo em que insistiu que a empresa está disposta a tomar decisões “contrárias ao lucro financeiro imediato” de seus investidores para “salvaguardar” o controle humano sobre a tecnologia.
O CEO da OpenAI também reconheceu que a empresa vem desacelerando alguns processos de treinamento e classificou como “inaceitável” qualquer cenário em que haja uma probabilidade de 10% de uma catástrofe decorrente da falta de controle sobre softwares de inteligência artificial.
“Todos nós temos uma enorme responsabilidade e não podemos permitir que egos, incentivos econômicos ou outros fatores se interponham no caminho”, ressaltou Altman.
ANTHROPIC DEFENDE “DIMINUIR O RITMO” DO DESENVOLVIMENTO DA IA
Nessa mesma linha, o diretor executivo da Anthropic, Dario Amodei, defendeu “diminuir o ritmo” do desenvolvimento da inteligência artificial e alertou para o risco de “perder o controle” dessa tecnologia e provocar “ataques cibernéticos”, “bioterrorismo” ou “graves problemas econômicos”.
“Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. Os avanços continuariam sendo rápidos e aproveitaríamos sabiamente o tempo que ganharíamos”, afirmou Amodei em um texto publicado neste sábado em seu blog.
Além desses ataques cibernéticos, “bioterrorismo” ou “graves problemas econômicos” poderiam ocorrer se houver um desenvolvimento “imprudente” da IA, e ele cita como exemplo o risco de a IA assumir o controle da internet em um prazo de 6 a 12 meses. Por isso, ele propõe medidas de segurança e regulamentação sem deixar de lado o “sucesso comercial”. “É preciso priorizar a cautela em vez da velocidade e a prudência em vez do lucro”, reforçou.
Especificamente, ele sugere medidas como uma “avaliação integrada” por parte de atores independentes, “coordenação democrática” com as instituições públicas e “coordenação global” que una os esforços dos países democráticos e autoritários em todo o mundo.
“Concordo com Dario em que precisamos estabelecer limites. Esse tem sido o principal tema de debate nas últimas semanas na OpenAI”, explicou Altam neste sábado em seus perfis nas redes sociais. “Vamos fazer o mesmo. Em breve daremos mais informações”, indicou.
Esta notícia foi traduzida por um tradutor automático