El problema no es que la IA "mienta", es que completa huecos
Los modelos de lenguaje están entrenados para producir una respuesta plausible, no para decir "no sé". Cuando un cliente pregunta algo que tu base de conocimiento no cubre del todo, un asistente sin controles va a rellenar el hueco con lo que "suena razonable" — una política de devolución que no existe, un plazo que no es el tuyo, una función que el producto no tiene. No es mala intención del modelo: es su comportamiento por defecto ante información incompleta.
Qué es un critic pass
Un critic pass es un segundo paso de verificación, separado de la generación de la respuesta, donde el sistema audita lo que está a punto de mandar. El asistente redacta una respuesta candidata usando los artículos de la base de conocimiento que recuperó, y antes de enviarla, un segundo chequeo — con acceso a los mismos artículos fuente — evalúa si cada afirmación de esa respuesta está efectivamente respaldada por el contenido recuperado. Si encuentra una afirmación sin respaldo, la respuesta se corrige o se deriva a un humano en lugar de enviarse tal cual.
Por qué no alcanza con "dale más contexto"
La solución ingenua es pensar que si el modelo tiene más información en el prompt, no va a inventar. Ayuda, pero no resuelve el problema de fondo: incluso con contexto correcto, un modelo puede generalizar de más ("la política de devoluciones es de 30 días" cuando el artículo dice 30 días solo para un producto específico) o mezclar información de dos artículos distintos de forma que ninguno de los dos sostiene individualmente lo que se terminó diciendo. El critic pass no confía en que la generación haya sido fiel, la verifica después de hecha.
El costo de no tenerlo
Un asistente que inventa una vez pierde algo más caro que esa conversación: pierde la confianza de que se le puede delegar el canal completo. Si un cliente recibe una respuesta incorrecta sobre un reembolso y después tu equipo humano tiene que desdecirla, el costo no es solo el error — es que a partir de ahí alguien en tu empresa va a querer revisar todo lo que dice la IA antes de mandarlo, lo cual mata el propósito de automatizar.
Cómo se ve en la práctica
Cuando el critic pass detecta que una respuesta no está bien respaldada, hay un orden que importa: primero, intentar regenerar la respuesta usando estrictamente lo que sí está en los artículos recuperados; si eso deja la respuesta incompleta, escalar explícitamente a un agente humano en vez de mandar una versión "aguada"; y registrar el caso, porque una pregunta que el sistema no pudo responder con confianza es la señal más útil que existe para saber qué le falta a la base de conocimiento.
No es magia, es arquitectura
No hay ningún modelo, por más grande que sea, que garantice cero alucinaciones por diseño. Lo que sí se puede construir es un sistema donde la responsabilidad de no inventar no descanse en un solo paso de generación, sino en un proceso con verificación explícita antes de que la respuesta le llegue al cliente. Eso es lo que hace que un asistente de soporte con IA sea confiable para producción, y no solo una demo que funciona bien las primeras diez preguntas.