Diseña un chat
- Lección 40 de 40
- 14 min
- Avanzado
- 12 pasos
Un chat parece sencillo hasta que hay millones de teléfonos conectados a la vez. Ahí no basta con que el mensaje llegue rápido: tiene que llegar siempre, en orden y sin repetirse.
- Tiempo de entrega
- 100 ms
- Conexiones abiertas
- 20M
- Puede perder mensajes
- no
- Orden garantizado
- sí
- petición
- respuesta
- handshake
- evento
- petición fallida
Paso 1 de 12
Concepto
El encargo: una app de mensajería
Tercer diseño completo: chats entre dos personas y en grupos pequeños. Si el destinatario está en línea, el mensaje le llega en el acto; si no, lo espera; y aparece en todos sus dispositivos.
Aquí manda la confianza. Ningún mensaje puede perderse, todos deben verse en el orden en que se enviaron y ninguno puede aparecer dos veces. La velocidad importa (menos de 200 ms con ambos en línea), pero nunca por encima de esas tres garantías.
Paso 2 de 12
Concepto
Primero, los números
Supongamos (valores de ejemplo) 60 millones de usuarios diarios que envían 30 mensajes cada uno: 1.800 millones al día, unos 21.000 por segundo de media y varias veces más en el pico. Con unos 200 bytes por mensaje son 360 GB al día, unos 130 TB al año.
El número que cambia el diseño es otro: las conexiones. Es el servidor quien empuja los mensajes, así que cada usuario en línea mantiene una conexión abierta todo el tiempo. En el pico son 20 millones a la vez.
Qué cambió
- ≈ 21.000 mensajes/s · 360 GB/día
- 20 M de conexiones abiertas en el pico
Paso 3 de 12
Solución
Primer borrador: un servidor y dos sockets
Como vimos en Tiempo real, preguntar cada pocos segundos desperdicia peticiones y añade retraso. Por eso cada teléfono abre un WebSocket: una conexión que queda abierta y por la que el servidor puede enviar datos cuando quiera.
Con un solo servidor todo es fácil: Alice y Bob están conectados a la misma máquina. Cuando llega el mensaje de Alice, el servidor busca el socket de Bob en su propia memoria y lo escribe ahí.
Qué cambió
- Servidor de chat
- Un WebSocket por dispositivo
Paso 4 de 12
Problema
Cien servidores: ¿dónde está Bob?
Para 20 millones de sockets hacen falta unas cien máquinas. Separa los papeles: las gateways solo mantienen conexiones abiertas, y un servicio de chat sin estado, detrás de ellas, concentra la lógica.
Ahora Alice está conectada a la gateway 1 y Bob a la gateway 2. El mensaje de Alice llega al servicio de chat, que no tiene forma de saber cuál de las cien gateways sostiene el socket de Bob.
Qué cambió
- Gateways que solo mantienen sockets
- La lógica pasa a un servicio sin estado
- El servicio de chat no encuentra a Bob
Paso 5 de 12
Solución
Un registro de quién está conectado dónde
Cuando un dispositivo se conecta, su gateway anota en un almacén en memoria bob → gateway 2, con un TTL corto que renueva con latidos periódicos. El servicio de chat consulta ese registro y le pasa el mensaje a la gateway correcta, que lo escribe en el socket de Bob.
Es la idea de Service discovery aplicada a cada usuario: un registro que se mantiene al día gracias a los latidos.
Qué cambió
- Registro de sesiones: usuario → gateway
- Latidos que mantienen fresca cada entrada
- Cada mensaje va a la gateway correcta
Paso 6 de 12
Solución
Guarda el mensaje antes de entregarlo
Hasta ahora el mensaje solo existe en memoria mientras viaja: si un servidor se cae a mitad de camino, se pierde. La regla es guardar primero y entregar después. El servicio de chat escribe cada mensaje en un almacén duradero y solo entonces le confirma a Alice que se envió.
Al guardarlo, el servicio le asigna el siguiente número de la conversación (seq). Ese número, y no el reloj de cada teléfono, decide el orden en que todos ven los mensajes.
Qué cambió
- Almacén de mensajes duradero
- Guardar, confirmar y después entregar
- Número de secuencia por conversación
Paso 7 de 12
Problema
Caso: Bob entra en un túnel
El teléfono de Bob pierde la señal. Su entrada en el registro vence, así que el servicio de chat ni intenta entregarle. El mensaje ya está a salvo en el almacén, y una notificación push (el servicio de avisos del sistema operativo del teléfono) le avisa que tiene mensajes nuevos.
Al reconectarse, la app de Bob dice «de la conversación 88 tengo hasta el #41» y el servidor le manda todo lo posterior. Esta sincronización por cursor sirve igual para un corte de cinco segundos, una semana sin conexión o un teléfono nuevo.
Qué cambió
- Bob sin conexión
- Servicio de notificaciones push
- Sincronización desde el último número recibido
Paso 8 de 12
Problema
Caso: enviado dos veces, visto una
Alice envía un mensaje desde un ascensor. Llega y se guarda, pero la confirmación se pierde de vuelta. Su app no puede saberlo, así que reintenta, y el servidor recibe el mismo mensaje dos veces.
La solución es la de Timeouts y reintentos: la app genera un id único para cada mensaje antes de enviarlo y repite ese mismo id en cada reintento. El servidor reconoce un id que ya guardó y solo vuelve a confirmar. Las apps que reciben descartan duplicados de la misma forma.
Qué cambió
- Id único generado en el dispositivo
- Un id repetido solo se vuelve a confirmar
Paso 9 de 12
Técnica
Grupos: se guarda una vez, se entrega a muchos
Un mensaje de grupo se guarda una sola vez, en la conversación del grupo. Luego el servicio de chat busca a los miembros, consulta en el registro la gateway de cada uno y envía una copia a cada dispositivo en línea: fan-out en escritura, como en el news feed.
Funciona bien hasta unos cientos de miembros. Un canal con 100.000 miembros repite el problema de las celebridades: ahí conviene que cada app pida los mensajes nuevos al abrir el canal.
Qué cambió
- Carla se suma al grupo
- Una copia por miembro en línea
Paso 10 de 12
Compromiso
«En línea» y «escribiendo…» van por otro carril
La presencia parece barata y no lo es: cada vez que alguien se conecta o se desconecta, la pantalla de todos sus contactos podría necesitar un cambio. Con 20 millones de personas entrando y saliendo, es una lluvia de mensajes diminutos.
Trátala como algo efímero. Deduce «en línea» de los latidos del registro, envía cambios solo a quien tiene ese chat o esa lista abierta en ese momento y no guardes nunca «escribiendo…». Si un aviso se pierde, el siguiente latido lo corrige.
Qué cambió
- La presencia sale de los latidos
- «Escribiendo…» nunca se guarda
Paso 11 de 12
Problema
Caso: se cae una gateway
La gateway 2 se cae y sus 200.000 sockets se cortan a la vez. No se pierde ningún mensaje, porque todo se guardó primero, pero 200.000 apps intentan reconectarse en el mismo segundo y pueden tumbar la gateway que les toque.
Las apps reconectan con espera exponencial y jitter (Timeouts y reintentos), el balanceador las reparte entre las gateways sanas, cada una registra su nueva ubicación y cada app se sincroniza desde su cursor.
Qué cambió
- Gateway 2 caída
- Reconexión con espera exponencial y jitter
- bob → gateway 1
Paso 12 de 12
Resumen
El diseño terminado
Cada decisión de la tabla responde a una garantía del encargo: entregar al instante, no perder, no desordenar y no repetir.
El cifrado de extremo a extremo (Cifrado y secretos) cambia lo que el servidor puede leer, no esta arquitectura: guarda y reenvía texto cifrado.
← → paso · R repetir · Espacio pausa
Aprenderás
- Calcular cuántas conexiones abiertas necesitas, no solo cuántos mensajes (visto)
- Encontrar a cada usuario entre muchas gateways con estado (visto)
- Guardar antes de entregar para no perder ni desordenar (visto)
- Entregar a quien está desconectado y descartar duplicados (visto)
- Escalar a grupos, mostrar presencia y sobrevivir a una gateway caída (visto)