01 · 01 · LO QUE ESTÁ EN JUEGO
Cuando la IA no puede alucinar
Cuando la IA no puede alucinar. Cómo construir sistemas que comprueban antes de responder. Sebastian Bimbi, CTO y cofundador de SRC.mx.
CODE SUMMIT / 2026CUANDO EQUIVOCARSE IMPORTA
Cuando la IAno puedealucinar.
Cómo construir sistemas que comprueban
antes de responder.
Sebastian Bimbi · CTO y cofundador · SRC.mx
Cuando la IA no puede alucinar. Cómo construir sistemas que comprueban antes de responder. Sebastian Bimbi, CTO y cofundador de SRC.mx.
NOCHE ELECTORAL
Son las seis.
La proyección ya está publicada.
18:00. Noche electoral. La proyección ya está publicada y llega el conteo oficial. Cualquiera puede comparar.
Ahora cualquierapuede comprobarlo.
La realidad tiene la última palabra.
Lo que publicamos: proyección. Lo que ocurrió: conteo oficial. Una comparación pública, no una afirmación de precisión.
POR ESO ME IMPORTA
SebastianBimbi.
CTO y cofundador · SRC.mx
Construir sistemas. Comparar resultados.
Sebastian Bimbi, CTO y cofundador de SRC.mx. Su punto de partida: construir sistemas y comparar resultados.
UN EJEMPLO SENCILLO
¿A qué horacierra latienda?
Una pregunta sobre la tienda de Lima.
Ejemplo ficticio · Todos los horarios de esta demostración son inventados.
Ejemplo ficticio. Una persona pregunta a qué hora cierra la tienda de Lima. La respuesta todavía no se ha comprobado.
LA RESPUESTA
La IA responde.¿Le crees?
«Cierra a las nueve de la noche».
Ejemplo ficticio · Todavía no hemos abierto la fuente.
La IA dice: la tienda cierra a las nueve de la noche, 21:00. Pregunta para el auditorio: ¿darías esa respuesta por buena?
Suena bien.Pero está mal.
La respuesta y el documento no coinciden.
Ejemplo ficticio · Respuesta: 21:00. Horario: 18:00.Fuente ↗
La respuesta decía 21:00. La fuente ficticia indica 18:00. No coinciden; el buen estilo de la respuesta no demuestra que el dato sea verdadero.
¿Y si usamosuna IA mejor?
Mejor no significa infalible.
El ejemplo histórico por tarea está en el anexo.Fuente ↗
Usar una IA mejor puede ayudar, pero no elimina la necesidad de comprobar. La charla no compara modelos actuales.
Una cosa es responder.Otra es comprobar.
No todo lo que genera la IA llega al usuario.
El modelo propone; el sistema comprueba; después se responde o se indica que no se puede confirmar. La validación no garantiza infalibilidad.
Una respuesta.Cinco preguntas.
La vamos a seguir, paso a paso.
Cinco preguntas: ¿qué fuente?, ¿qué formato?, ¿qué tienda?, ¿y si falla?, ¿y sin IA?
01 · LA FUENTE
Primero:abre la fuente.
No basta con citar. Hay que comparar.
Ejemplo ficticio · Grounding: respaldar una afirmación con evidencia.
Horario de Lima: 18:00. Respuesta: 18:00. Ambas coinciden en el ejemplo. La cita debe existir y respaldar el dato.
01 · CUANDO FALTA EL DATO
Sin fuente,no lo confirmes.
No saberlo es mejor que inventarlo.
Ejemplo ficticio · Salida prevista: «No puedo confirmarlo».Fuente ↗
Cuando no hay una fuente suficiente, el sistema no confirma la hora. Puede pedir información o derivar la consulta.
02 · EL FORMATO
Una hora tieneque ser una hora.
El formato también se comprueba.
Ejemplo ficticio · Buen formato no significa dato verdadero.Fuente ↗
Se exigen hora_cierre y fuente. 25:99 se rechaza; 18:00 tiene formato válido. Todavía falta comprobar el contenido.
03 · EL DOCUMENTO CORRECTO
La tienda correcta.El horario vigente.
No cualquier documento sirve.
Ejemplo ficticio · RAG: buscar información antes de responder.
Lima anterior: 20:00. Lima vigente: 18:00. Cusco vigente: 19:00. El sistema selecciona tienda y vigencia, no solo un documento parecido.
Un «sí» de otra IAno es una prueba.
Pide evidencia, no solo aprobación.
Una IA evaluadora puede ayudar. Su aprobación por sí sola no demuestra que un dato sea correcto; hay que revisar evidencia y reglas.
04 · OTRA RUTA
La IA no responde.La persona espera.
No la dejes esperando para siempre.
Simulación local · No se envían solicitudes a ningún proveedor.
Si no llega respuesta, se aplica un tiempo límite y se intenta una ruta alternativa. Es una demostración local, no una caída real.
04 · UNA DEPENDENCIA COMPARTIDA
Dos caminos.La misma avería.
Cambiar de conexión no siempre
cambia de proveedor.
Esquema didáctico conservado del deck original.
Claude Code y la API de Anthropic comparten proveedor. Una caída de ese proveedor puede afectar a ambas rutas; la alternativa ilustrativa es datos más reglas.
05 · RESPONDER SIN IA
Sin IA,también hayun plan.
Un dato comprobado. Una respuesta prevista.
Ejemplo ficticio · Si el dato no está vigente, no lo confirmes.
Con un horario vigente y comprobado, una plantilla responde 18:00 sin modelo. Si el dato pierde vigencia, la respuesta deja de confirmarse.
Y ahora,dale permisopara actuar.
Un mensaje no es una autorización.
Esquema de riesgo · Reducir permisos no sustituye todas las medidas de seguridad.Fuente ↗
Datos privados, contenido externo no confiable y capacidad de enviar información fuera forman una combinación de riesgo. Un mensaje no autoriza a cambiar los permisos.
Antes de usarlo,hazlo fallar.
Comprueba qué hace cuando algo sale mal.
Pruebas del ejemplo local · No evalúan ni certifican un sistema real.
Cinco pruebas negativas locales: sin fuente, hora inválida, documento equivocado, proveedor caído y dato desactualizado. El resultado no es una certificación del sistema real.
Antes de confiar,FRENA.
Cinco preguntas que puedes hacer hoy.
FRENA: adaptación del ponente de TRACK · Atribución y lecturas en el anexo.
F: Fuente, ¿de dónde sale? R: Razón, ¿tiene sentido? E: Exactitud, ¿coinciden los datos? N: Necesario, ¿falta algo? A: Alguien más, ¿quién lo revisa?
La IA responde.Tú respondespor lo que haces.
La decisión sigue siendo humana.
La IA genera respuestas; las personas conservan responsabilidades de diseño, revisión y uso. La decisión no se da por resuelta por usar IA.
VOLVAMOS A ESA NOCHE
No me creas.Compruébalo.
Proyecciones publicadas.
Resultados oficiales.
src.org.mx/resultados · El enlace y el QR necesitan conexión.Fuente ↗
Invitación a comparar las proyecciones con los resultados oficiales en src.org.mx/resultados. No se afirma un porcentaje de precisión.
Empieza con una tarea tuya.
Tu primer prompt
Ayúdame a aplicar lo aprendido en F13 a una tarea real. Pregúntame qué quiero resolver y qué fuentes tengo. Diseñemos cómo comprobar la fuente, el formato y la vigencia; qué hacer si la IA falla; y qué resolver sin IA. Define permisos, pruebas de fallo y una revisión con FRENA. Si falta evidencia, indícalo. Empecemos por una tarea pequeña.
Que cada respuesta tenga algo que la respalde.
Las palabras técnicas,en sencillo.
Glosario: modelo, contexto, agente, validación, grounding, RAG, failover y fallback.
RESULTADO HISTÓRICO · NO ES UN RANKING ACTUAL
Mismo modelo.Distinta tarea.
GDPval · Claude Opus 4.1 · 2025
Preferencias de expertos frente al entregable humano. No es una tasa de exactitud.Fuente ↗
Resultado histórico conservado del deck: ≈70% desarrollo de software; ≈24% contabilidad y auditoría. Preferencia comparativa de expertos en GDPval 2025, no exactitud universal.
Abre las fuentes.Haz tus pruebas.
Fuentes: OpenAI sobre alucinaciones; JSON Schema; Self-Preference Bias in LLM-as-a-Judge; GDPval.
La conversacióncontinúa.
Simon Willison sobre permisos; IBM Think sobre responsabilidad; METR como lectura adicional. FRENA es una adaptación del ponente de TRACK; la atribución al curso no fue verificada aquí.