Cuando el modelo inventa.
El mayor riesgo de un asistente no es que diga “no sé”: es que invente con total seguridad. Por eso la confianza se construye, no se asume.
Predecir lo probable, no lo verdadero.
Una alucinación es cuando el modelo afirma algo que suena razonable pero es falso. No miente a propósito: como su trabajo es predecir el texto más probable, a veces rellena un hueco con algo plausible en vez de admitir que no lo sabe. Cuanto más se aleja de lo que tiene delante, más riesgo de inventar. Pruébalo: pregunta con la fuente desconectada, después conéctala y mira cómo cambia:
- Los pedidos se despachan en 24 horas hábiles.
- Envío gratis a todo el país desde $50.000.
- No se despacha los domingos.
Sin fuente, el modelo nunca dice “no sé”: rellena con algo plausible. Con una fuente conectada, responde solo lo que puede respaldar — y cuando el dato no está, lo admite. Esa es la diferencia entre que suene confiable y que sea verificable.
Confianza verificable, no fe ciega.
Responder desde documentos
Si la respuesta sale de sus archivos y no de la “memoria” del modelo, hay mucho menos margen para inventar.
Mostrar de dónde salió
Cada respuesta cita el documento que la respalda, y se puede abrir. Confianza que se comprueba.
Revisar antes de entregar
Un verificador controla el trabajo extenso, y el sistema prefiere decir “no encontré” a inventar.
Por eso cada respuesta de su asistente cita su fuente.
Cuéntenos su caso y coordinamos una reunión — presencial o por videollamada — para mostrarle un asistente funcionando.