Timeouts y reintentos

  • Lección 26 de 40
  • 11 min
  • Intermedio
  • 11 pasos

Cuando una dependencia va lenta o se cae, la forma en que la llamas decide si el problema se queda ahí o tumba todo tu sistema. Las cifras de la escena son de ejemplo.

Cobros a tiempo
99%
p99 de la llamada a pagos
180 ms
Carga en pagos
1×
Hilos ocupados (de 200)
30
compradoresPedidosPedidosBreakerBreakerPagosPagos100%95%responde en 30 s200/200 hilos esperandosin timeout18%45%a menudo lentoplan B: pago pendientetimeout 800 ms20%50%timeout 800 ms · 1 reintento100%100%4× la carga normal200/200 hilos esperando3 reintentos sin pausa23%60%recuperándosebackoff + jitterUna llamada, con backoffintento 1timeoutreintento 1+100 msreintento 2+200 msreintento 3+400 ms ✓timeout de 800 ms · sin jitter3%caídoplan B: pago pendienteABIERTO · falla en 1 ms15%50%CERRADOcobrando pendientes15%50%cobrado una vezIdempotency-Key: a7c2CERRADOIdempotency-Key: a7c2intento 1cobra 40 USD y guarda el resultadorespuesta perdidapedidos reintentaintento 2clave conocida: mismo resultadoal finalun solo cobroimporte de ejemplo14%45%plazo 2 s · quedan 1,2 spresupuesto: 1,2 sdeadline 10:30:02.000CERRADO25%85%lento otra vezpool de pagos 40/40 · resto librepool de pagos: 40 hilos15%50%CERRADO
  • petición
  • respuesta
  • petición lenta
  • petición fallida
  • comprobación de salud

Paso 1 de 11

Problema

Un servicio lento arrastra a otro

El servicio de pagos suele responder en 50 ms, pero hoy tarda 30 segundos. El servicio de pedidos lo llama y se queda esperando, sin ningún límite de tiempo.

Cada llamada en espera retiene un hilo. Pedidos tiene 200 y en menos de un minuto están todos bloqueados: ya no atiende ni las páginas que no necesitan pagos. Un problema en una dependencia se convierte en una caída completa.

Paso 2 de 11

Solución

Ponle un timeout y ten un plan B

Cada llamada saliente lleva un timeout: si pagos no contesta en 800 ms, pedidos deja de esperar y libera el hilo. En este ejemplo el 90 % de las llamadas llega a tiempo y el 10 % restante se corta.

Para ese 10 % hay un plan B (fallback): el pedido se acepta como «pago pendiente» y se cobra un poco después. Pedidos sigue en pie para todo lo demás.

Qué cambió

  • Timeout de 800 ms en las llamadas a pagos
  • Plan B: «pago pendiente»
  • Hilos ocupados: 200 → 36
  • Cobros a tiempo: 2 % → 90 %

Paso 3 de 11

Técnica

Reintenta los fallos pasajeros

Muchos fallos duran un instante: un paquete perdido, una instancia que se reinicia, un pico breve. Si vuelves a intentarlo poco después, lo normal es que funcione.

Con un reintento tras el timeout, 8 de cada 10 llamadas cortadas salen bien a la segunda: los cobros a tiempo pasan del 90 % al 98 % (90 + 10 × 0,8). El precio: pagos recibe un 10 % más de llamadas (1,1×) y el p99 sube a unos 950 ms (800 de espera + unos 150 del segundo intento).

Qué cambió

  • Un reintento en timeouts y 503
  • Cobros a tiempo: 90 % → 98 %
  • Carga en pagos: 1× → 1,1×

Paso 4 de 11

Problema

Los reintentos se vuelven una tormenta

Ahora pagos se satura de verdad. Cada cliente reintenta tres veces y sin pausa, así que cada petición que falla se convierte en cuatro: pagos recibe 4 veces su carga normal.

Así no se recupera nunca: los propios reintentos lo mantienen hundido, y tus clientes se comportan como un ataque de denegación de servicio. Cada intento agota sus 800 ms, así que el p99 llega a 3,2 s (4 × 800 ms) y los 200 hilos vuelven a llenarse.

Qué cambió

  • Pagos saturado
  • 3 reintentos inmediatos por fallo
  • Carga en pagos: 1,1× → 4×

Paso 5 de 11

Solución

Espera cada vez más, y con jitter

Antes de reintentar, espera, y cada vez el doble: 100 ms, luego 200, luego 400. Es el backoff exponencial. Súmale una parte aleatoria (jitter) para que miles de clientes no reintenten en el mismo instante.

Limita los intentos y también la parte del tráfico que pueden ser reintentos: con un presupuesto de reintentos del 10 %, la carga nunca pasa de 1,1×. Pagos tiene aire para recuperarse.

Qué cambió

  • Esperas de 100 → 200 → 400 ms (+ jitter)
  • Presupuesto de reintentos: 10 %
  • Carga en pagos: 4× → 1,1×

Paso 6 de 11

Técnica

Circuit breaker: deja de llamar un rato

Pagos cae del todo. Aun con timeout, cada llamada pierde 800 ms en descubrirlo. Un circuit breaker cuenta los fallos: si pasan de un umbral, se abre y rechaza las llamadas al instante, sin intentarlas.

Cada cierto tiempo (aquí, 30 s) deja pasar una llamada de prueba: es el estado semiabierto. Si sale bien, se vuelve a cerrar. Mientras tanto, los pedidos siguen entrando como «pago pendiente».

Qué cambió

  • Pagos caído
  • Circuit breaker: ABIERTO
  • Una llamada fallida tarda 1 ms, no 800 ms

Paso 7 de 11

Solución

Semiabierto y luego cerrado

Pagos se recupera. La siguiente llamada de prueba sale bien, el breaker se cierra y el tráfico vuelve poco a poco, para no aplastar al servicio nada más volver.

Los pedidos en «pago pendiente» se cobran desde una cola. No se perdió ninguno y el resto de la web nunca dejó de funcionar.

Qué cambió

  • Pagos recuperado
  • Breaker: SEMIABIERTO → CERRADO
  • Pedidos pendientes cobrados

Paso 8 de 11

Técnica

Un reintento no puede cobrar dos veces

Un caso traicionero: pagos cobra la tarjeta, pero la respuesta se pierde por el camino. Pedidos agota el timeout, reintenta… y el cliente paga dos veces.

La solución es una clave de idempotencia: un identificador único por pedido que viaja en cada intento, por ejemplo en la cabecera Idempotency-Key. Pagos guarda el resultado de cada clave y, si llega un duplicado, devuelve ese resultado en lugar de cobrar otra vez.

Qué cambió

  • Idempotency-Key en las llamadas a pagos
  • Un intento repetido devuelve el resultado guardado

Paso 9 de 11

Técnica

Pasa el plazo hacia abajo

El navegador del comprador se rinde a los 2 segundos. Si pedidos ya gastó 1,9 s, no tiene sentido que pagos empiece 800 ms de trabajo: nadie verá la respuesta.

Por eso cada petición lleva un deadline: «responde antes de las 10:30:02.000». Cada servicio mira cuánto tiempo queda y pasa ese presupuesto al siguiente; si no queda nada, para en seco. En la escena, pedidos gastó 0,8 s y a pagos le quedan 1,2 s.

Qué cambió

  • Deadline en cada petición
  • Nada empieza si no puede acabar a tiempo

Paso 10 de 11

Técnica

Bulkheads: un pool por dependencia

¿Recuerdas el paso 1, cuando pagos lento acaparó los 200 hilos? Pedidos también puede protegerse dando a cada dependencia su propio pool: por ejemplo, 40 hilos para pagos, 40 para inventario y 120 para todo lo demás.

Ahora, si pagos se vuelve lento, solo se llenan sus 40 hilos. Hay unos 50 ocupados en total (40 de pagos y unos 10 del resto), y navegar, buscar o usar el carrito sigue funcionando. Es la idea de los compartimentos estancos de un barco: el patrón bulkhead.

Qué cambió

  • Un pool de hilos por dependencia
  • Pagos lento solo llena sus 40 hilos
  • El resto de la web sigue igual

Paso 11 de 11

Resumen

Resumen

Toda llamada remota necesita un timeout y un plan B.

Reintenta solo errores pasajeros, con backoff exponencial, jitter y un tope.

Un circuit breaker deja de golpear a un servicio caído.

Lo que se reintenta tiene que ser idempotente.

Propaga deadlines y aísla dependencias con bulkheads.

Aprenderás

  • Cómo un servicio lento propaga el fallo
  • Timeouts y planes B
  • Reintentos, tormentas de reintentos y backoff con jitter
  • Circuit breakers y claves de idempotencia
  • Deadlines y bulkheads