Gobernanza y ciberseguridad, ahora integradas para agentes de IA

¿Cómo garantizar que los agentes de IA trabajen con responsabilidad, sin poner en riesgo la seguridad empresarial? Con esta interrogante como punto de partida, IBM ha presentado una solución innovadora: el primer software del mercado que unifica la gobernanza y la seguridad en entornos de inteligencia artificial agéntica, marcando un nuevo estándar en la protección de sistemas autónomos y su alineación con normativas globales.

(M&T)-. El anuncio, realizado en junio de 2025, integra dos de las herramientas más potentes del portafolio de IBM: watsonx.governance, orientada a la gobernanza de IA, y Guardium AI Security, enfocada en la protección de modelos, datos y usos específicos de esta tecnología. Ambas plataformas ahora se combinan para ofrecer una visión única del perfil de riesgo que enfrentan las organizaciones al utilizar sistemas inteligentes cada vez más complejos.

Entre las funcionalidades clave presentadas se encuentra la automatización de la seguridad para agentes de IA, validando estándares de cumplimiento frente a 12 marcos normativos internacionales, incluyendo la Ley de IA de la Unión Europea, la ISO/IEC 42001, y regulaciones estadounidenses como la SR 11-7 de la Reserva Federal.

Además, IBM anunció nuevas capacidades gracias a una alianza con AllTrue.ai, que permite detectar automáticamente el uso de IA en nubes, sistemas embebidos y repositorios de código, garantizando una supervisión integral de los entornos descentralizados donde operan los agentes.

Una de las grandes innovaciones es la automatización del red teaming, es decir, la detección proactiva de vulnerabilidades y errores de configuración. También se incluyen herramientas para mitigar riesgos críticos como la inyección de código, fugas de información confidencial y violaciones normativas, mediante políticas personalizadas que analizan entradas y respuestas de los modelos.

En palabras de Suja Viswesan, vicepresidenta de Security and Runtime Products en IBM, “el futuro de la IA depende de lo bien que la aseguremos hoy”, destacando que la seguridad debe incorporarse desde la base para generar confianza y evitar crisis reputacionales o legales.

Por su parte, Jennifer Glenn, directora de investigación en IDC Security and Trust Group, subrayó que uno de los mayores retos es traducir los incidentes técnicos en riesgos empresariales cuantificables. En ese sentido, “unificar gobernanza y seguridad en IA permite priorizar amenazas con mayor claridad y comunicar el impacto con precisión”, señaló.

IBM también reveló avances en la supervisión del ciclo de vida de los agentes de IA, desde su desarrollo hasta el despliegue. Ahora es posible evaluar métricas como fidelidad, relevancia y contexto, así como identificar patrones de rendimiento deficientes mediante nodos integrados en los agentes. Estas capacidades se fortalecerán aún más con funciones previstas para el 27 de junio, incluyendo registros de auditoría, catálogos de herramientas y evaluación de riesgos al momento de incorporar agentes.

Finalmente, la herramienta Compliance Accelerators permite a las empresas acceder a un conjunto de regulaciones preconfiguradas y asignarlas a sus propios casos de uso, facilitando el cumplimiento desde una perspectiva proactiva y global. Esta funcionalidad está disponible como complemento, y watsonx.governance ahora también opera en el centro de datos de AWS en India, ampliando su alcance.

Con esta evolución, IBM consolida su papel como un actor clave en la construcción de una inteligencia artificial más segura, responsable y eficiente, al tiempo que ayuda a las organizaciones a integrar la IA generativa sin comprometer sus valores ni sus datos.