En una demostración, un sistema que siempre responde resulta brillante. En un proyecto real, es un peligro. La diferencia entre una respuesta y una respuesta fiable está en saber de dónde sale. Y en estar dispuesto a decir «no lo sé» cuando no sale de ningún sitio.
El problema de la respuesta segura
Un modelo de lenguaje (el motor que hay detrás de estos sistemas) está entrenado para producir texto que suene convincente. Nada en él garantiza que el contenido sea cierto. Ante un hueco de información, su comportamiento por defecto es rellenarlo con algo plausible: lo que la industria llama alucinación.
En una conversación informal eso da igual. Piense ahora en las cifras que sostienen la decisión de un comité. En una previsión de ventas para el año que viene. En un informe que va al consejo. Ahí una respuesta segura pero inventada acaba en el acta como si fuera un hecho.
Lo más traicionero es que ese error no se ve. Una cifra inventada y una cifra correcta se presentan exactamente igual de bien. Si el sistema no distingue entre lo que sabe y lo que supone, traslada ese trabajo entero a quien lo lee. Y quien lo lee casi nunca está en posición de hacerlo.
De dónde sale cada dato
Por eso construimos los sistemas para que usted pueda ver de dónde sale cada dato. Cuando el sistema afirma algo, enseña en qué documento, en qué dato o en qué fuente se apoya. Esa fuente es lo que convierte una respuesta en algo verificable.
La máquina recorre y resume la información. La persona decide con el cuadro completo delante. La decisión de negocio no la toma la máquina. Con ese reparto, la velocidad de la máquina y el criterio de la persona suman.
La regla: marcar lo que no se puede respaldar
La regla que gobierna nuestros sistemas es incómoda y deliberada:
Ante la duda, el sistema marca «pendiente de confirmar».
Un sistema que reconoce lo que no sabe convierte un hueco invisible en una tarea concreta. Alguien la ve, alguien la asume y alguien la cierra.
Una cifra redonda sin respaldo tiene buena presentación y esconde el riesgo justo donde más cuesta encontrarlo. Una marca de «pendiente de confirmar» es incómoda de leer y ahorra trabajo. Además hace fiable todo lo demás que el sistema afirma: lo que no lleva marca es lo que sí puede respaldar.
Siempre puede comprobar la respuesta
Enseñar la fuente y marcar lo dudoso son las dos caras de la misma disciplina. Usted puede comprobar cada afirmación, y cuando no hay nada que comprobar, el sistema lo dice. Así es como la inteligencia artificial resulta fiable en el trabajo que tiene consecuencias.
Lo que esto significa en su proyecto
En la práctica, la tecnología que dejamos funcionando en su empresa trabaja a fondo, enseña su razonamiento y avisa cuando pisa terreno incierto. Un «pendiente de confirmar» aparece marcado en pantalla, con el enlace a la fuente y una tarea para que alguien lo verifique. El criterio sobre qué hacer con él sigue siendo suyo. Nuestro trabajo es darle la mejor información posible para ejercerlo y ser honestos sobre sus límites.
