Andrej Sokolow/dpa - Arquivo
MADRID 16 set. (Portaltic/EP) -
O diretor executivo da Meta, Mark Zuckerberg, afirma que, quando adiaram o lançamento do Muse para melhorar a segurança e as proteções de seu novo agente, fizeram isso porque essa decisão faz parte de seu trabalho diário, uma postura que ele transmite aos demais laboratórios de inteligência artificial (IA), ao destacar que cada um tem “a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos de maneira segura”.
O apelo para desacelerar o ritmo do desenvolvimento da IA, feito neste fim de semana pelo diretor executivo da Anthropic, Dario Amodei, segue-se a uma série de incidentes de segurança ocorridos neste verão, nos quais tanto a IA do Claude quanto a desenvolvida pela OpenAI demonstraram um comportamento autônomo que resultou no “hackeamento” de diversos sistemas, incluindo o da plataforma Hugging Face.
Um dia depois, às vésperas da abertura de capital da OpenAI, o diretor executivo, Sam Altman, decidiu dar marcha à ré, justificando essa decisão com base nos riscos de segurança apresentados pelos modelos avançados de inteligência artificial, como o GPT-5.6 Sol e GPT-6 Astra (ou Claude Mythos e Fable, da Anthropic).
O motivo está nos danos que essa tecnologia pode causar à sociedade como um todo se ficar fora de controle, o que é conhecido como desalinhamento, ou seja, o comportamento que uma IA apresenta diferente daquele que se espera que ela tenha. E embora a Anthropic e a OpenAI defendam essa pausa antes do lançamento de novos modelos — uma postura apoiada pelo fundador da SpaceXAI, Elon Musk —, outras empresas têm se destacado como exemplos de responsabilidade.
É o caso da Meta. Conforme indicado por Zuckerberg em um comunicado compartilhado no X (antigo Twitter), a empresa de tecnologia adiou o lançamento do Muse — seu assistente pessoal de IA — por “vários meses” para se concentrar “na segurança e na proteção”.
“Não pedimos que todos os outros fizessem isso antes de nós. Simplesmente fizemos isso como parte do nosso trabalho diário porque, claramente, era a coisa certa a se fazer pelas pessoas e por nós”, afirmou o executivo.
Com base em sua experiência, Zuckerberg destaca o papel dos avaliadores e consultores independentes e defende direcionar “a grande maioria da computação para servir às pessoas, em vez de competir pela autoaperfeiçoamento recursivo”, como forma de desenvolver IA de maneira segura.
“As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que lhes é pedido”, afirma, acrescentando que “cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, e a capacidade de tomar suas próprias medidas para garantir que isso aconteça”.
Esta notícia foi traduzida por um tradutor automático