¿En quién confiamos?

Fuente: Expansión (México) · tecnologia · México, México

¿En quién confiamos?

En la era de la inteligencia artificial, confiamos en más que solo un modelo. Confiamos en los chips, la infraestructura, los datos y las herramientas. Pero, ¿hasta dónde debemos confiar? La confianza en la IA es una cadena, y cada eslabón es crucial. Hace algunos años, pocos consejos de administración discutían quién fabricaba los procesadores sobre los que corrían sus sistemas. Hoy, los chips de inteligencia artificial son asunto de política industrial, seguridad nacional y geopolítica. A inicios de noviembre, alrededor de 600,000 procesadores H200 de NVIDIA permanecían almacenados en Hong Kong porque Pekín no había autorizado su importación a gran escala. Al mismo tiempo, en el Congreso de Estados Unidos ganó fuerza la propuesta de endurecer los controles a la exportación de chips avanzados hacia China. Parece una disputa lejana entre dos potencias. No lo es. Es un recordatorio para quienes dirigimos empresas: detrás de cada respuesta de una inteligencia artificial hay una cadena tecnológica que cada vez comprendemos menos y de la que, paradójicamente, dependemos más. De ahí una pregunta incómoda: ¿en quién estamos confiando cuando confiamos en una inteligencia artificial? Durante décadas confiamos en el software porque sabíamos qué hacía: alguien escribía instrucciones y el sistema las ejecutaba. La inteligencia artificial rompe parcialmente ese paradigma: produce respuestas que nadie programó explícitamente. Y ya estamos en la siguiente etapa: agentes que no solo responden, sino que usan herramientas, consultan sistemas, toman decisiones y ejecutan acciones. El 40% de los encuestados de organizaciones con ingresos superiores a 1,000 millones de dólares reporta que su empresa ya escala agentes de IA en al menos una función, frente a 27% un año antes (McKinsey, The State of AI in 2026). Ahí cambia la conversación sobre confianza. Un correo mal redactado por un modelo probablemente se detecta antes de enviarse. Pero un agente con acceso al CRM puede modificar información; con acceso al sistema financiero, puede iniciar un pago. Y cuando varios agentes interactúen entre sí, las consecuencias dejarán de estar contenidas en una ventana de chat. El riesgo ya no será solo que la IA diga algo incorrecto. Será que haga algo incorrecto. El comportamiento de estos modelos puede ser difícil de entender y predecir, y los agentes elevan el riesgo porque, al actuar de forma autónoma, reducen el margen para intervenir antes de que una falla cause daño (International AI Safety Report, 2026). Esto no significa frenar la adopción. Significa dejar de confundir confianza con fe. Cuando usamos inteligencia artificial confiamos en mucho más que un modelo: en quien diseñó los chips, en la infraestructura que los opera, en quien entrenó el modelo y con qué datos, en las instrucciones que lo gobiernan, en las herramientas a las que tiene acceso y, al final, en nuestra propia capacidad para fijarle límites. Es una cadena de confianza, y cada eslabón nuevo agrega posibilidades, pero también dependencia. Los 600,000 chips detenidos en Hong Kong son solo el eslabón más visible. Por eso las empresas necesitan diseñar una arquitectura de confianza, con el mismo rigor con el que durante años diseñamos arquitecturas de tecnología, seguridad o datos. Su función es definir explícitamente hasta dónde llega la autonomía de la IA. No todas las decisiones exigen el mismo nivel de confianza. Una IA puede organizar información con pocas restricciones. Para recomendar una decisión financiera necesita más supervisión; para ejecutarla, controles adicionales. Y habrá decisiones que, sin importar cuánto avance la tecnología, elegiremos conservar en manos humanas. Lo relevante es que esa frontera la decida el consejo deliberadamente, no que la vaya fijando, por omisión, cada proveedor o cada área que adopta una herramienta. Hoy la capacidad tecnológica avanza más rápido que la capacidad de gobernarla: solo alrededor de 30% de las organizaciones alcanza niveles avanzados de madurez en estrategia, gobierno y controles de IA agéntica (McKinsey, State of AI Trust in 2026). Por eso la IA no puede seguir siendo una conversación exclusiva del área de tecnología, ni la confianza un asunto solo de ciberseguridad.

También lo cubren: Ideal (Granada), PR Noticias, PRNoticias, Tribuna Avila, Tribuna Burgos, Tribuna De Salamanca, Tribuna De Soria, Tribuna Leon y otros.

🔗 Leer la noticia completa en Expansión (México)

Ver más en NewsToday