Giskard

Giskard es una plataforma de seguridad y calidad para agentes de IA que los somete a pruebas adversarias automáticas y a evaluaciones de calidad, y entrega un informe que indica si el agente está listo para producción o hay que corregirlo.

Qué hace Giskard

Según su web, el agente solo necesita ser accesible mediante un endpoint de API para que Giskard lo audite. La plataforma busca ataques de adulación, inyección de prompts, divulgación de datos y contenidos inapropiados, y también fallos de calidad como denegaciones indebidas, contradicciones, alucinaciones y omisiones. Tras cada evaluación entrega un informe con veredicto, vulnerabilidades ordenadas por criticidad y una etiqueta Giskard si el agente la supera, y ayuda a gestionar la corrección. Existe una librería de código abierto en Python para experimentos locales.

• Red teaming automatizado de agentes de IA con más de 50 sondas adversarias, incluidos ataques de varios turnos.
• Detección de inyección de prompts, divulgación de datos, adulación y contenido inapropiado.
• Evaluaciones de calidad con generación de datasets por dominio y métricas finas para sistemas RAG.
• Informe con veredicto para producción, vulnerabilidades por criticidad y etiqueta Giskard si el agente lo supera.
• Cobertura de marcos de riesgo de ciberseguridad de agentes como OWASP.
• Integración en CI/CD con SDK, alertas programadas por correo y versionado con registros de auditoría.
• Despliegue en local, nube privada o SaaS, con residencia de datos en la UE o EE. UU. y política de cero entrenamiento.

Precio

Según su página de precios, que no publica importes, hay una versión de código abierto para experimentos locales con modelos propios, con mantenimiento por mejor esfuerzo y soporte de la comunidad. La versión Professional, pensada para agentes críticos, incluye auditoría y evaluaciones de agentes, SSO, despliegue seguro, cumplimiento SOC 2, HIPAA y RGPD y soporte con SLA; se contrata a medida.

Para quién es

Equipos de IA, seguridad y cumplimiento en banca, salud o industria que van a poner agentes y chatbots en producción y necesitan evidencias de que resisten ataques y responden con calidad.