Confianza digital: El desafío de proteger datos en sistemas de IA

La confianza digital se ha convertido en uno de los activos más frágiles de la economía moderna. A medida que la inteligencia artificial se integra en procesos cotidianos, desde la atención al cliente hasta la toma de decisiones estratégicas, la forma en que las organizaciones gestionan los datos comienza a ser tan relevante como la tecnología misma.

(M&T)-. El avance acelerado de la inteligencia artificial (IA) está redefiniendo los riesgos asociados al uso de la información, advierten expertas de SAS. Más allá de las amenazas tradicionales, como filtraciones o ciberataques, la IA introduce desafíos menos visibles pero críticos, relacionados con la privacidad, la transparencia y la confianza digital.

Desde la perspectiva de la compañía, los riesgos actuales ya no se limitan al acceso indebido a los datos. La reutilización de información más allá de su propósito original, la capacidad de los modelos para inferir datos sensibles que nunca fueron compartidos explícitamente y la dificultad para explicar cómo se generan ciertas decisiones automatizadas están en el centro del debate. En este escenario, la privacidad de los datos emerge como un pilar esencial para sostener la confianza en los sistemas digitales.

Según Marinela Profi, Global AI & Generative AI Market Strategy Lead de SAS, la rápida adopción de soluciones basadas en IA en sectores como servicios financieros, comercio minorista y banca está revelando dilemas que van más allá de los enfoques tradicionales de protección de la información. La velocidad de implementación no siempre va acompañada de marcos sólidos de gobernanza y transparencia.

La especialista advierte que herramientas como chatbots y copilotos empresariales pueden, sin los controles adecuados, exponer datos sensibles o difuminar la frontera entre información pública y privada. Aunque las organizaciones han recurrido históricamente a mecanismos como los datos sintéticos para reducir riesgos, la IA introduce una complejidad adicional al retener y reinterpretar información a lo largo del tiempo, incluso a partir de señales contextuales o emocionales.

En este contexto, la pregunta ya no es solo cómo se protegen los datos, sino cómo se entrenan los modelos, cómo generan resultados y quién mantiene el control final sobre la información y las “memorias” creadas durante las interacciones, un aspecto cada vez más relevante para los usuarios y reguladores.

El debate se amplía cuando se analiza el ciclo de vida de los datos. Para Manisha Khanna, Global Product Marketing Lead for AI & Analytics de SAS, la privacidad ha evolucionado más allá del acceso y la seguridad. La IA extiende el uso de los datos mucho más allá de su contexto original, planteando interrogantes sobre su vigencia y legitimidad.

De acuerdo con la ejecutiva, muchos sistemas continúan tomando decisiones basadas en información que ya debería haber caducado, reutilizando datos recopilados bajo supuestos y consentimientos distintos para entrenar nuevos modelos. Este fenómeno no responde necesariamente a fallas de seguridad, sino a vacíos en los esquemas de gobernanza, diseñados para retener datos, pero no para cuestionar cuándo dejan de ser apropiados.

Ante este panorama, SAS impulsa un enfoque de privacidad desde el diseño, integrando gobernanza, explicabilidad y supervisión humana a lo largo de todo el ciclo de vida de los datos y los modelos de IA. El objetivo es prevenir exposiciones involuntarias, riesgos de inferencia y la erosión progresiva de la confianza digital, especialmente en entornos altamente automatizados.

Las soluciones promovidas por la compañía buscan facilitar el cumplimiento regulatorio, reducir riesgos legales y reputacionales, y fortalecer la confianza de clientes, colaboradores y socios. Más allá del cumplimiento, el mensaje es claro: la privacidad no debe verse como un freno a la innovación, sino como un habilitador clave de una IA responsable y sostenible.

Lea: Diez claves que explican cómo cambia el consumo en la región