OpenAI ha anunciado la adquisición de Promptfoo, una empresa especializada en auditorías de seguridad para aplicaciones basadas en modelos de lenguaje. Con esta operación, la compañía busca reforzar la arquitectura de seguridad de su plataforma empresarial Frontier, integrando herramientas avanzadas de evaluación, testing y gobernanza de agentes de inteligencia artificial.
El movimiento responde al creciente uso de agentes de IA autónomos o semiautónomos dentro de las empresas, un escenario que aumenta las exigencias en materia de seguridad, trazabilidad y cumplimiento normativo.
Más seguridad para los sistemas agentic
A medida que los agentes de IA interactúan con datos sensibles, herramientas internas y procesos de negocio, también crece el riesgo de fallos operativos o ataques, como las prompt injections o ejecuciones incorrectas de tareas.
Promptfoo se ha especializado precisamente en este ámbito, ofreciendo una plataforma que permite realizar tests automatizados de seguridad, simulaciones de ataques (red-teaming) y evaluaciones estructuradas de aplicaciones basadas en LLM durante su desarrollo.
Según la empresa, su tecnología ya es utilizada por más del 25% de las compañías del Fortune 500, además de contar con una herramienta CLI de código abierto ampliamente utilizada por desarrolladores.
Integración en Frontier y cumplimiento regulatorio
Tras la adquisición, las capacidades de Promptfoo se integrarán directamente en Frontier, permitiendo a las empresas acceder a pruebas de seguridad automatizadas, detección temprana de riesgos y registros de auditoría detallados.
Estas funciones facilitarán el cumplimiento de normativas emergentes como el EU AI Act, al ofrecer documentación y trazabilidad del comportamiento de los sistemas de IA.
Con esta operación, OpenAI refuerza su estrategia en el mercado de plataformas empresariales para agentes de IA, especialmente relevante para sectores regulados como finanzas, salud o industria, donde la seguridad y la fiabilidad son claves para escalar la adopción de estas tecnologías.
