Balanceo de carga

  • Lección 5 de 40
  • 12 min
  • Inicial
  • 12 pasos

Tener varios servidores no basta: alguien tiene que decidir a cuál va cada petición. Verás qué hace un balanceador, qué reglas usa y qué pasa cuando algo falla.

Usuarios
200.000
Peticiones/s
6.000 pet/s
Latencia p95
80 ms
Errores
0%
Servidores sanos
3
200.000 usuariosBalanceadorde cargaBalanceador de cargaLB dereservaLB de reservaServidor AAPI AServidor AServidor BAPI BServidor BServidor CServidor CImágenesImágenes2%100%2%el DNS solo apunta aquí36%37%35%única IP pública36%37%35%round robin: A → B → C24%95%25%round robincola creciendo48%55%50%menos conexiones55%55%fuera del grupo2%2%2%caído36%37%35%activo · VIPen espera36%37%35%ahora activo · VIP40%42%30%capa 7: decide por ruta/api/*/images/*55%55%v1 · espera su turnodrenando → v2v2 · listodespliegue progresivo36%37%35%VIP
  • petición
  • petición lenta
  • esperando en cola
  • comprobación de salud

Paso 1 de 12

Problema

Tres servidores y todo el tráfico en uno

Ya tenemos tres servidores, pero el DNS de la app solo publica la IP del Servidor B. Los 200.000 usuarios llegan ahí y A y C se quedan mirando.

En este ejemplo cada servidor aguanta unas 5500 pet/s. Llegan 6000, así que B rechaza unas 500 por segundo (≈ 8 %) y el resto hace cola.

Paso 2 de 12

Solución

Una puerta de entrada delante del grupo

Ponemos un balanceador de carga (LB). Su IP es la única que conocen los clientes: recibe cada petición, elige un servidor del grupo, se la pasa y devuelve la respuesta.

Las 6000 pet/s se reparten: unas 2000 por servidor, alrededor del 36 % de su capacidad. Y como los clientes nunca ven a los servidores, puedes añadir o quitar uno sin avisar a nadie.

Qué cambió

  • Balanceador de carga
  • Los clientes hablan con el LB
  • CPU: 2 / 100 / 2 % → ≈ 36 % cada uno
  • Errores: 8 % → 0 %

Paso 3 de 12

Técnica

Round robin: a cada uno le toca por turno

¿A quién le pasa el LB cada petición? La regla más sencilla es el round robin: la primera a A, la segunda a B, la tercera a C y vuelta a empezar.

No necesita saber nada de los servidores, así que es muy barata. Funciona bien cuando todos son iguales y todas las peticiones cuestan parecido.

Qué cambió

  • Estrategia: round robin
  • Animación más lenta para seguir el turno

Paso 4 de 12

Problema

No todas las peticiones pesan lo mismo

En la vida real, abrir un perfil tarda milisegundos y generar un informe anual tarda segundos. El round robin reparte peticiones, no trabajo.

Aquí una de cada tres es pesada (los puntos lentos). Con tres servidores y turnos fijos, todas acaban en el mismo: B se satura y acumula cola mientras A y C apenas trabajan.

Qué cambió

  • Peticiones pesadas
  • CPU de B: 37 % → 95 %
  • p95: 80 ms → 1,4 s

Paso 5 de 12

Técnica

Menos conexiones: al que esté más libre

Con menos conexiones (least connections), el LB cuenta cuántas peticiones tiene abiertas cada servidor y manda la nueva al que tenga menos.

Una petición pesada mantiene su conexión abierta más tiempo, así que el servidor que la atiende recibe menos peticiones nuevas hasta que termina. El trabajo se equilibra solo.

Qué cambió

  • Estrategia: menos conexiones
  • CPU de B: 95 % → 55 %
  • p95: 1,4 s → 150 ms

Paso 6 de 12

Técnica

Health checks: sacar a quien no responde

El LB sondea cada servidor cada pocos segundos, por ejemplo con GET /health (los anillos). Si uno falla varias veces seguidas, deja de mandarle tráfico; cuando vuelve a responder bien, lo reincorpora.

El Servidor C se ha caído y nadie lo ha notado: A y B absorben sus 2000 pet/s y pasan a unas 3000 cada uno, alrededor del 55 %.

Qué cambió

  • Servidor C caído
  • Health checks
  • C sale del grupo
  • Errores: siguen en 0 %

Paso 7 de 12

Problema

Y si el que se cae es el balanceador

Hemos quitado un punto único de fallo y hemos puesto otro: ahora todas las peticiones pasan por un solo LB. Si se cae, se cae todo.

Los tres servidores están bien y sin trabajo. Simplemente nadie puede llegar a ellos: las peticiones se quedan sin respuesta hasta agotar su tiempo.

Qué cambió

  • Balanceador caído
  • Errores: 0 % → 100 %

Paso 8 de 12

Solución

Un segundo balanceador en espera

Montamos dos balanceadores: uno activo, que atiende el tráfico, y otro pasivo en espera. Los clientes no apuntan a ninguno de los dos, sino a una IP virtual (VIP) que tiene el activo.

Entre ellos se envían un latido (heartbeat) cada segundo, más o menos. Mientras el pasivo los reciba, sabe que el activo está vivo.

Qué cambió

  • Balanceador de reserva
  • Latidos entre los dos
  • La VIP la tiene el activo

Paso 9 de 12

Solución

El relevo en unos segundos

El activo deja de responder. Al dejar de recibir latidos, el de reserva se queda con la VIP y empieza a repartir el tráfico.

Los clientes siguen usando la misma dirección y no cambian nada. Como mucho, las peticiones que estaban a medias fallan y se reintentan.

Qué cambió

  • Balanceador activo caído
  • La reserva pasa a activo
  • La VIP cambia de máquina

Paso 10 de 12

Técnica

Capa 4 o capa 7: mirar dentro de la petición

Un balanceador de capa 4 solo ve IPs y puertos, y reparte conexiones enteras sin leer su contenido. Uno de capa 7 entiende HTTP y lee la petición.

Por eso puede decidir según la ruta: /api/* va a los servidores de la API y /images/* a un servicio de imágenes propio. Cada grupo crece y se despliega por separado.

Qué cambió

  • El LB decide por la ruta de la URL
  • Servidor C → servicio de imágenes

Paso 11 de 12

Técnica

Publicar una versión sin cortar el servicio

Llega la versión 2. En un despliegue progresivo (rolling deploy) se actualiza un servidor cada vez: el LB lo drena (no le da peticiones nuevas y deja terminar las que tiene), se actualiza, pasa su health check y vuelve al grupo.

C ya está en v2, B se está drenando y A espera su turno. Mientras tanto, A y C se reparten las 6000 pet/s y nadie ve un error.

Qué cambió

  • C actualizado a v2
  • B drenando antes de actualizarse
  • A todavía en v1

Paso 12 de 12

Resumen

Resumen

Un balanceador da a un grupo de servidores una sola dirección estable.

El round robin es simple; menos conexiones se adapta cuando el trabajo es desigual.

Los health checks sacan del grupo a los servidores que fallan, sin intervención.

El propio LB debe estar duplicado: activo-pasivo con una IP virtual compartida.

En capa 7 se enruta por ruta, y drenar servidores permite desplegar sin cortes.

Aprenderás

  • Por qué un grupo de servidores necesita una sola entrada
  • Round robin frente a menos conexiones
  • Health checks para esquivar servidores caídos
  • Duplicar el balanceador con una IP virtual
  • Enrutar en capa 7 y desplegar sin cortes