Promptfoo es una plataforma de seguridad que detecta vulnerabilidades de aplicaciones de IA durante el desarrollo, con red teaming automatizado, evaluaciones de prompts, modelos y RAG, guardarraíles y proxy para MCP.
Qué hace Promptfoo
Según su web, Promptfoo simula usuarios reales para descubrir vulnerabilidades específicas de cada aplicación, como inyecciones de prompt directas e indirectas, jailbreaks, fugas de datos personales, incumplimiento de reglas de negocio y uso inseguro de herramientas por agentes. Se integra en pipelines de CI/CD y en el IDE, y ofrece evaluaciones, escaneo de código, seguridad de modelos, guardarraíles en tiempo real y un proxy seguro para comunicaciones con servidores MCP. La edición Community es de código abierto y se ejecuta en local.
- Red teaming automatizado de agentes y sistemas RAG con ataques generados para cada objetivo.
- Evaluaciones de prompts, modelos y canalizaciones RAG para comparar resultados.
- Escaneo de código que busca vulnerabilidades de LLM en el IDE y en CI/CD.
- Guardarraíles en tiempo real contra jailbreaks y ataques adversarios.
- Proxy seguro para las comunicaciones del Model Context Protocol.
- Seguridad de modelos con pruebas y monitorización exhaustivas.
- Edición de código abierto que se ejecuta en local o autoalojada, y funciones empresariales como SSO e informes.
Precio
Según su página de precios, que no publica importes de pago, la edición Community es gratuita para siempre, de código abierto, con todas las funciones de evaluación, todos los proveedores de modelos y 10.000 sondas de red teaming al mes. Enterprise se presupuesta a medida e incluye límites ampliados, colaboración de equipos, monitorización continua, SSO, acceso a la API y nube gestionada, y On-Premise, también a medida, para despliegue en infraestructura propia.
Para quién es
Equipos de desarrollo y seguridad que construyen aplicaciones y agentes con IA y quieren detectar vulnerabilidades y regresiones de calidad antes de llegar a producción.
Valoraciones y comentarios