Un consejero firma la cuenta de resultados y entiende cada línea. Firma una póliza de seguro y sabe qué cubre. Pero cuando firma el uso de un sistema de inteligencia artificial, a menudo no puede ver qué hace realmente sin que alguien del equipo técnico se lo traduzca. Y una traducción que depende de quien construyó el sistema no es supervisión: es confianza. La buena noticia es que esto se cambia, y no con más reuniones técnicas, sino con orden.

El problema no es técnico; es de visibilidad

La queja habitual —"no entiendo lo que hace la IA"— suena a problema de conocimiento, como si bastara con que alguien lo explicara mejor. No lo es. El problema es que la información sobre qué hace cada sistema, qué datos usa y qué puede salir mal vive dispersa en código, en hojas de cálculo y en la cabeza de dos o tres personas. No hay un sitio donde la dirección pueda mirar y ver. Por eso depende de que el director técnico traduzca cada vez, y por eso la visibilidad se evapora en cuanto esa persona está de vacaciones o cambia de empresa.

Llamamos a esto un problema de trazabilidad: la capacidad de seguir, por escrito, qué hace un sistema y por qué. Cuando existe, quien decide no necesita intérprete; cuando no, no hay supervisión posible por mucho que se reúnan. Es la misma idea que sostiene la gobernanza de IA para quien decide: los estándares son letra muerta si quien firma no puede ver lo que firma.

Tres cosas que un consejo debería poder ver, sin intérprete

No hace falta entender el modelo por dentro. Hacen falta tres respuestas, disponibles por escrito y en lenguaje llano:

  • Qué hace cada sistema y para qué. El punto de partida es el más simple y el que casi nadie tiene: la lista de los sistemas de IA que la empresa usa, con su finalidad. Sin ese inventario, todo lo demás es conjetura.
  • Qué riesgos corre y cómo se controlan. El reglamento europeo de IA exige, para los sistemas de alto riesgo, un registro vivo de qué puede salir mal y qué se hace para evitarlo, y procedimientos escritos de gestión de los datos que alimentan el sistema (Fuente: Reglamento (UE) 2024/1689, art. 17(1), EUR-Lex, 2024). Un consejo debería poder abrir ese registro y leerlo, no que se lo resuman.
  • Cuándo el sistema decide solo sobre una persona. Si una IA decide por sí sola sobre alguien —un crédito, una contratación— con efectos significativos, esa persona tiene derecho a que intervenga un humano y a recurrir (Fuente: Reglamento (UE) 2016/679 (RGPD), art. 22, EUR-Lex, 2016). Saber en qué sistemas pasa esto no es un detalle técnico: es responsabilidad de quien dirige.

A esto se añade una obligación que el consejo suele desconocer: el artículo 50 del reglamento de IA exige, en ciertos casos, avisar de que se está ante una inteligencia artificial —por ejemplo, en un chatbot o en contenido generado (Fuente: Reglamento (UE) 2024/1689, art. 50, EUR-Lex, 2024). No es la misma transparencia que la del RGPD (informar a la persona sobre sus datos); confundirlas es uno de los errores que un consejo bien informado evita.

Cómo se cambia: el artefacto, no la reunión

La solución no es una presentación trimestral más clara. Es que cada una de esas tres respuestas exista como documento que la dirección puede abrir y señalar — el inventario de sistemas, el registro de riesgos, la lista de decisiones automatizadas. Cuando la documentación está ordenada así, la visibilidad deja de depender de una persona y pasa a ser una propiedad del sistema. La arquitectura, ordenada para que cualquiera pueda comprobar qué hace, es a la vez lo que el consejo lee y lo que el regulador pide: el mismo trabajo sirve para ver y para defender.

Eso es lo que significa que un negocio sea operable por IA: que esté documentado de forma que tanto una persona como un sistema puedan leer qué hace y cómo se controla, sin depender de la memoria de nadie. La misma base que permite que la IA opere de verdad el negocio es la que deja que quien decide la vea.

No es teoría

Operamos un sistema de inteligencia artificial en producción en un sector regulado, con su sistema de gestión documentado conforme a la norma internacional ISO/IEC 42001 —un AIMS, o sistema de gestión de IA, con responsable, registro de riesgos y revisión— y con su capa de transparencia funcionando en tiempo de ejecución, no sobre el papel. El sistema corre, pasa auditoría, lo construimos nosotros. Esa es la prueba de que la visibilidad que aquí describimos no es una aspiración: es un estado al que un sistema se lleva con trabajo de orden, y lo dejamos así por diseño (referencia técnica).

Qué hacer con esto

La pregunta para llevarse no es "¿confío en mi equipo técnico?" —seguramente sí—, sino otra: "si mañana esa persona no estuviera, ¿podría yo abrir un documento y ver qué hace nuestra IA?". Si la respuesta es no, no tiene un problema de talento: tiene un problema de orden, y se arregla ordenando. En nuestro método ese inventario es lo primero que queda por escrito, precisamente para que ver qué hace su IA no dependa nunca de que alguien esté disponible para contárselo.