Hay un momento incómodo que casi todo el que trabaja con inteligencia artificial ha vivido ya: el sistema responde algo con total seguridad, usted lo comprueba, y no era cierto. Un dato que no existe, una cita inventada, un detalle plausible pero falso. El fenómeno tiene nombre —alucinación— y una propiedad que lo vuelve peligroso para quien decide: la respuesta inventada suena exactamente igual de segura que la verdadera.
La reacción habitual es de dos tipos, y las dos son errores. La primera: dejar de confiar en la herramienta y volver a hacerlo todo a mano — se pierde la escala, que era el punto. La segunda: confiar de todos modos, porque «casi siempre acierta» — hasta que un dato inventado llega a un informe, a un cliente o a un regulador con la firma de su empresa. La salida no está en calibrar la confianza. Está en cambiar la pregunta: no ¿cuánto me fío de la IA?, sino ¿qué circuito hay entre lo que la IA produce y lo que mi empresa publica?
Por qué una IA inventa (y por qué no va a dejar de hacerlo)
Sin entrar en tecnicismos: estos sistemas no consultan un registro de hechos; generan el texto más plausible a partir de lo que aprendieron. La mayoría de las veces, lo plausible coincide con lo cierto. Pero cuando el sistema no sabe algo, no dice «no lo sé» por defecto: produce lo que mejor suena. No es un defecto de fabricación que la próxima versión arregle del todo; es la naturaleza del instrumento.
Esto tiene una consecuencia directa para quien dirige: la fiabilidad no es una propiedad del modelo; es una propiedad del sistema que se construye alrededor. La misma tecnología produce un generador de plausibilidades o una fuente de datos verificados — según el circuito en el que esté montada. La pregunta correcta a un proveedor no es «¿su IA alucina?» (la respuesta honesta siempre es «a veces»), sino «¿qué pasa entre que su IA produce algo y que ese algo se usa?».
El circuito: exigir la fuente antes de publicar
Un circuito de verificación serio tiene tres pasos, y ninguno es exótico — son los mismos que aplica una redacción seria o un buen departamento financiero:
Exigir la fuente. Cada afirmación que el sistema produce debe llegar acompañada de dónde salió. Sin fuente, el dato no avanza: no se discute si «parece razonable» — se descarta o se marca como pendiente. Esta sola regla elimina la mayor parte del problema, porque obliga al sistema a trabajar sobre material real en lugar de rellenar.
El control que intenta refutar. Un segundo control, independiente del primero, revisa la afirmación con el mandato contrario: intentar desmentirla. No es desconfianza decorativa; es la misma lógica del contraste de pareceres que usted ya usa en las decisiones importantes. Lo que sobrevive a un intento serio de refutación vale más que lo que nadie cuestionó.
La persona que confirma contra la fuente primaria. Antes de publicar, una persona abre la fuente original —no el resumen de la IA, la fuente— y confirma que el dato dice lo que se afirma. La máquina hace el volumen; la persona pone la firma. Y lo que no pasa el circuito no se tira a la basura ni se publica «con cautela»: se aparta, registrado, con su motivo.
Cómo se ve funcionando: un caso abierto
Esto no es una propuesta teórica. Despegue, un sistema nuestro de inteligencia de datos sobre la inversión en Argentina, funciona exactamente así y está en línea: la inteligencia artificial investiga a escala; cada afirmación pasa por un control independiente que intenta refutarla; y una persona confirma contra la fuente primaria antes de publicar. El resultado se ve en cada página: cada cifra lleva un sello de confianza —verificado, probable, estimación o tesis— que separa lo comprobado de lo interpretado, y el enlace a su fuente está a un clic del lector. Puede entrar ahora, elegir cualquier dato y seguirlo hasta su origen — sin cuenta ni registro.
El sello es la parte que más se subestima. No todo lo útil está verificado al mismo nivel, y fingir lo contrario es otra forma de inventar. Un sistema honesto no dice «todo lo que publico es verdad»: dice esto está confirmado en la fuente, esto es probable, esto es una estimación y esto es una tesis — y deja que el lector pese cada cosa según lo que es. Esa graduación explícita es más creíble que cualquier promesa de infalibilidad.
Qué exigir en su empresa
Traducido a su operación, el estándar cabe en tres preguntas que usted puede hacer sin ser técnico, sobre cualquier dato que su inteligencia artificial haya producido:
- ¿De dónde salió? Si el dato no puede señalar su fuente, no es un dato: es una plausibilidad.
- ¿Quién o qué intentó desmentirlo? Un dato que nadie cuestionó no está verificado; está sin examinar.
- ¿Qué pasó con lo que no pasó el control? Si la respuesta es «nada, no hay control», ya sabe dónde está el riesgo.
La regulación europea empuja en la misma dirección: para los sistemas de alto riesgo, el Reglamento (UE) 2024/1689 exige niveles adecuados de precisión y solidez, mantenidos durante todo el ciclo de vida (Fuente: Reglamento (UE) 2024/1689, art. 15, EUR-Lex, 2024). Pero el motivo para montar el circuito no es la norma: es que sin él usted está firmando plausibilidades. En nuestro método, la solución que se entrega nace con esta disciplina puesta: el sistema sabe qué dato puede usar, deja rastro de dónde salió cada cosa, y lo que hace se puede comprobar — la rutina diaria de esa comprobación la contamos en Un lunes por la mañana.
La idea para llevarse
A una inteligencia artificial no se le pide que no se equivoque nunca; se le pide lo mismo que a un buen equipo: que trabaje con fuentes, que acepte ser contrastada y que lo que salga con la firma de la empresa esté confirmado. La confianza en la IA no se declara — se monta. Y una vez montada, deja de ser un acto de fe: es un circuito que usted puede abrir y ver funcionar.