El informe NTT DATA Technology Foresight 2026 sitúa esta pregunta en el centro de su tercera macrotendencia: Intelligence we trust. Es más que una duda técnica: es estratégica. ¿Podemos confiar en la inteligencia que estamos desplegando?
Hace veinte años, la ciberseguridad se limitaba a la protección perimetral. Hoy, ese mismo departamento juega un rol clave, ya que habilita la innovación, sostiene la reputación y determina la continuidad del negocio. La inteligencia artificial sigue un recorrido similar, pero en un plazo mucho más corto.
La conversación sobre IA dejó de girar rápidamente en torno a la capacidad. Si bien todavía es relevante si funciona, es suficientemente precisa o qué casos de uso resuelve, el debate se amplía. A medida que los sistemas de IA ganan autonomía, se interconectan y se embeben en operaciones críticas, se vuelve más importante el hecho de si es explicable, verificable, gobernable y auditable.
Esta es la nueva frontera de ciberseguridad. Proteger la inteligencia en sí misma: los datos que alimentan los modelos, los modelos frente a la manipulación, los outputs frente al error sistemático, los agentes frente a comportamientos no deseados.
Aseguramiento continuo: del control periódico a la confianza en tiempo real
Las organizaciones están acostumbradas a validar sus sistemas en ciclos: auditorías anuales, revisiones trimestrales, pruebas previas al lanzamiento. Ese esquema fue diseñado para entornos estáticos. Pero los modelos de IA no lo son. Cuando los datos del mundo real cambian aprenden, derivan y se comportan de formas que nadie anticipó.
Technology Foresight 2026 introduce el concepto de aseguramiento continuo de la IA: integrar explicabilidad, monitorización de drift, linaje de datos, evidencias automáticas y controles de gobernanza directamente en los pipelines en lugar de como capas externas que se comprueban después. En vez de ser un estado que se certifica una vez, la confianza se convierte en un proceso vivo que opera en tiempo real.
En la práctica, esto significa que una organización madura sabe, por ejemplo, que su modelo de crédito tiene un 94% de precisión, pero también con qué datos fue entrenado. Además, detecta cuándo ese comportamiento empieza a desviarse, puede explicar ante un regulador por qué denegó una solicitud concreta y dispone de mecanismos para revertir decisiones automatizadas cuando sea necesario.
El mercado ya está respondiendo
La urgencia no es solo conceptual. El mercado de gestión de confianza, riesgo y seguridad de la IA (AI TRiSM) alcanzó los 2.340 millones de dólares en 2024 y se proyecta en 6.220 millones para 2029, con un crecimiento anual sostenido del 21,6%.
Según las previsiones del Foresight 2026, el 90% de las empresas adoptará marcos de gobernanza de agentes de IA en los próximos 18 meses y, en 2028, el 85% de los productos de datos incluirán un AI Bill of Materials que documente cómo se recopilaron, editaron y limpiaron los datos.
Estamos hablando de que se reestructura la forma en que las organizaciones demuestran que su IA merece ser utilizada.
El rol de la gobernanza y del trust by design
Uno de los errores más frecuentes en las organizaciones es tratar la gobernanza de la IA como un problema del equipo de datos o como una extensión del cumplimiento normativo. El informe Technology Foresight 2026 aclara al respecto que la IA confiable requiere una gobernanza transversal que conecte seguridad, compliance, arquitectura, ética, operaciones y estrategia.
Eso implica construir un lenguaje común entre funciones que históricamente han operado en silos. Un CISO necesita entender qué significa que un modelo tenga “baja explicabilidad”. Un CDO debe comprender las implicaciones de gobernanza de usar datos de terceros para entrenar un agente. Un CEO requiere tener la capacidad de responder ante su consejo qué procesos críticos están automatizados y bajo qué condiciones pueden fallar.
Las organizaciones más maduras incorporarán la confianza desde el inicio: modelos explicables desde el diseño, datos trazables desde la ingesta, controles automatizados en los pipelines, pruebas adversariales antes del despliegue, autenticación continua en tiempo de ejecución.
Una IA confiable acelera decisiones, porque los equipos se atreven a delegar más. Permite personalizar sin miedo, porque hay trazabilidad del dato. Ayuda a reducir el fraude, porque hay observabilidad del comportamiento. Es clave para innovar más rápido, porque hay mecanismos para revertir errores.
La confianza en la era de la inteligencia masiva es mucho más que un valor declaratia, es infraestructura crítica, y como tal, las organizaciones que la construyan antes, y mejor, tendrán más libertad para moverse rápido cuando lo que importe sea no equivocarse.