Saltar al contenido

Diseña un rate limiter

Lección 2 de 20 · 6 min

Diseña un rate limiter

Paso 1 de 11

Diez mil solicitudes por segundo, tres puertas y un presupuesto por clave de API.

La idea

Limita lo que puede gastar cada cliente: eso es el rate limiting (limitación de tasa). Supón 10 000 solicitudes por segundo en tres nodos del gateway, 100 000 claves de API y un tope de 100 solicitudes por minuto cada una. Nombrar el algoritmo es la mitad fácil.

Ejemplo del mundo real

La pulsera de un festival, escaneada en cada puerta. Si cada puerta llevara su propia libreta podrías entrar tres veces, así que todas leen de una sola lista compartida, y ahora la fila depende de que esa lista funcione.

El trade-off

Los contadores por nodo no necesitan saltos de red y dejan que un cliente gaste N veces el límite entre N nodos. Un almacén compartido es exacto, suma un viaje de ida y vuelta a cada solicitud y crea una dependencia: decide ya si un rate limiter caído falla en abierto y atiende todo, o falla en cerrado y rechaza a todos.

Te toca

Ordena los pasos.

  1. Si el almacén de contadores no responde, falla en abierto y atiende la solicitud
  2. Obtén la clave de identidad del cliente a partir de su clave de API o token
  3. Rechaza con 429 y Retry-After cuando se agote el presupuesto
  4. Incrementa de forma atómica el contador de esa clave en el almacén compartido

Mini quiz

1 / 3

Si tres nodos del gateway llevan cada uno su propio contador, un mismo cliente puede: