Haga esta prueba en su próxima reunión sobre inteligencia artificial. Cuando alguien diga «el sistema tiene prohibido hacer eso», pregunte: ¿dónde está escrita esa prohibición? No quién la decidió, ni desde cuándo aplica: dónde vive. Si la respuesta es «está en el prompt que montó el proveedor», «lo tiene configurado el equipo» o un silencio educado, usted acaba de descubrir algo importante: esa prohibición no es una regla. Es una intención.
La diferencia no es retórica. Una máquina no obedece intenciones; obedece lo que está escrito, con una literalidad que ningún equipo humano tiene. Eso es una debilidad cuando nadie ha escrito las reglas — y una ventaja enorme cuando alguien lo ha hecho bien: una inteligencia artificial con reglas escritas es más gobernable que casi cualquier proceso humano, porque la regla se aplica todas las veces, sin cansancio y sin excepciones de viernes por la tarde.
Una regla que no está escrita no existe
En la mayoría de las empresas que ya usan inteligencia artificial, el comportamiento del sistema vive repartido en sitios que nadie puede abrir: la configuración de un proveedor, los hábitos de quien lo usa, ajustes que alguien hizo y no documentó. El sistema funciona — pero sus límites son arqueología, no arquitectura.
Eso tiene dos consecuencias prácticas. La primera: cuando el negocio cambia —un criterio comercial nuevo, un dato que ya no se puede usar, un tono distinto—, no hay un lugar donde cambiar la regla; hay que perseguir el comportamiento a base de repetir peticiones. La segunda es peor: cuando alguien pregunta «¿qué tiene prohibido hacer este sistema?», la respuesta depende de la memoria de una persona. Y lo que depende de la memoria de una persona no se puede delegar, ni auditar, ni escalar.
Las tres capas de una regla que se cumple
Cómo se ve una regla de verdad, lo mostramos con un caso nuestro. Operamos Strahlkraft40+, un sistema de inteligencia artificial en producción en sanidad regulada alemana. En ese sector, lo que una IA puede decir tiene frontera legal: hay afirmaciones de salud que la ley prohíbe hacer. Esa frontera no está en un manual de empleado ni en la buena voluntad del modelo. Está construida en tres capas, dentro del sistema:
Capa 1 — la instrucción escrita. El comportamiento del sistema está gobernado por documentos: qué hace, con qué criterio, qué tiene prohibido decir. No son notas sueltas: son las instrucciones que el sistema recibe en cada conversación. Cuando la regla cambia, se cambia el documento — y el sistema obedece la versión nueva desde ese momento.
Capa 2 — el filtro sobre cada salida. Un sistema serio no confía en que la instrucción baste. Antes de que una respuesta llegue a la persona, un mecanismo aparte la revisa: sustituye los términos que la ley no permite, elimina las formulaciones prohibidas, y deja pasar solo lo que cumple. Es determinista: no opina, aplica. La instrucción fija la intención; el filtro la garantiza.
Capa 3 — la prueba que lo verifica. Cada regla del filtro tiene pruebas automáticas que comprueban que sigue funcionando: que el término vetado se sustituye, que la formulación prohibida se elimina. Cuando el sistema evoluciona —y un sistema vivo evoluciona constantemente—, las pruebas verifican que ninguna regla se rompió por el camino.
Si le suena a cómo se gobierna cualquier riesgo serio, es porque lo es: nadie protege una caja fuerte solo con una norma interna. Se escribe la norma, se pone la cerradura y se prueba la cerradura. Con la inteligencia artificial, la novedad no es la lógica — es que casi nadie la aplica todavía.
Cambiar la regla es cambiar el documento
La consecuencia más valiosa de este montaje no es defensiva. Es que el sistema se vuelve dirigible: cuando usted quiere que la IA se comporte distinto, hay un sitio concreto donde cambiarlo, y el cambio aplica desde entonces a todos los casos — no hay que reeducar a nadie ni esperar que la costumbre cuaje. La corrección se escribe una vez y permanece. En De usar la IA a dirigirla describimos esa dirección como capacidad de gestión; esto de aquí es su condición material: sin reglas escritas con mecanismo y prueba, «dirigir la IA» es una frase.
La regulación europea apunta al mismo sitio. El Reglamento (UE) 2024/1689 exige que los sistemas de alto riesgo estén diseñados para que personas puedan supervisarlos de forma efectiva, con capacidad real de intervenir en su funcionamiento (Fuente: Reglamento (UE) 2024/1689, art. 14, EUR-Lex, 2024). Supervisar e intervenir exigen exactamente lo que este artículo describe: que el comportamiento viva en documentos que una persona puede leer y cambiar, y que existan mecanismos que apliquen lo escrito. Quien monta las tres capas para dirigir su sistema tiene, de paso, la supervisión efectiva que la norma pide — sin fabricarla aparte.
Por dónde empezar en su empresa
No hace falta un sector regulado para que esto aplique. Toda empresa tiene reglas que su inteligencia artificial debería cumplir: qué datos puede usar y cuáles no, qué puede decidir sola y qué debe escalar a una persona, qué tono y qué compromisos puede asumir en su nombre. El punto de partida es un inventario honesto: liste las cinco reglas más importantes que su IA debe cumplir hoy, y para cada una responda tres preguntas — ¿dónde está escrita?, ¿qué mecanismo la aplica?, ¿qué prueba verificaría que se cumple?
En nuestro método, ese es precisamente uno de los entregables del Arranque de 90 días: las reglas de juego del sistema por escrito —qué puede hacer, qué tiene prohibido, quién responde— con el mecanismo que las aplica y el rastro que lo demuestra. El negocio queda descrito de forma que el sistema lo obedece y usted lo comprueba (qué significa «operable», sin jerga).
La pregunta para llevarse
La madurez de una empresa con la inteligencia artificial no se mide por cuántas herramientas usa, sino por una pregunta que cabe en una línea: de las reglas que su IA debe cumplir, ¿cuántas tienen un sitio, un mecanismo y una prueba? Las que no los tienen, todavía no son reglas. Y la buena noticia es que convertir intenciones en reglas no es un proyecto de años: es, exactamente, trabajo de ingeniería que se hace una vez y queda.