MADRID 10 mar. (Portaltic/EP) -
A OpenAI anunciou a aquisição da Promptfoo, o que permitirá integrar sua plataforma de segurança de inteligência artificial (IA) na OpenAI Frontier, para proteger as implantações de agentes nas empresas. A equipe e a tecnologia da Promptfoo serão incorporadas à OpenAI após o fechamento da aquisição, que atualmente está sujeita às condições habituais de fechamento, conforme informado em um comunicado.
A Promptfoo desenvolveu uma plataforma de segurança que identifica e corrige vulnerabilidades em sistemas de IA durante o processo de desenvolvimento. Essas capacidades se tornaram “mais importantes do que nunca, à medida que os agentes de IA se conectam mais a dados e sistemas reais”, afirmou o cofundador e diretor executivo da Promptfoo, Ian Webster.
Após a conclusão da aquisição, a tecnologia da Promptfoo será integrada ao OpenAI Frontier, a plataforma da OpenAI que ajuda as empresas a criar, implantar e gerenciar agentes de inteligência artificial que realizam tarefas reais. Com a Promptfoo, as empresas terão acesso a testes de segurança automatizados que identificarão e resolverão riscos de segurança, como injeções rápidas e vazamentos de dados. Ela também será incorporada aos fluxos de trabalho para detectar e resolver riscos relacionados aos agentes e fornecerá relatórios que permitirão “documentar os testes, monitorar as mudanças e atender às expectativas de governança, risco e conformidade para IA”.
Para o diretor de Tecnologia de Aplicativos B2B da OpenAI, Srinivas Narayanan, “o Promptfoo traz uma profunda experiência em engenharia para avaliar, proteger e testar sistemas de IA em escala empresarial. Seu trabalho ajuda as empresas a implementar aplicativos de IA seguros e confiáveis”, disse ele.
Esta notícia foi traduzida por um tradutor automático