MADRI 29 dez. (Portaltic/EP) -
A OpenAI anunciou uma vaga para Gerente de Preparação, um cargo "crucial" para continuar a evolução dos modelos de inteligência artificial (IA) para evitar que eles causem danos no mundo real.
Os modelos de IA estão se tornando cada vez mais capazes, mas essas capacidades representam riscos no mundo real, como problemas de saúde mental e segurança, com suas capacidades sendo abusadas para personalizar campanhas maliciosas ou até mesmo gerar novos malwares.
Os recursos desses modelos também permitem que eles detectem vulnerabilidades críticas em sistemas de computador, o que levou a OpenAI, responsável pelos modelos GPT e pelo chatbot ChatGPT, a procurar um gerente de prontidão.
O cargo é "crucial", como disse o CEO da empresa, Sam Altman, em sua conta no X, onde explicou que "será um trabalho estressante" e quem o preencher "estará envolvido em uma situação complicada quase imediatamente".
Isso porque seu principal dever será antecipar e mitigar os perigos apresentados pela IA no mundo real, tanto biológicos quanto de segurança cibernética, conforme explicado no anúncio da vaga.
Para isso, ele terá que "desenvolver e coordenar avaliações de capacidade, modelagem de ameaças e mitigações que formem um processo de segurança coerente, rigoroso e operacionalmente escalável".
Esta notícia foi traduzida por um tradutor automático