Tous les exemples

Exemples

Un limiteur de débit à token bucket, requête par requête

Une rafale de cinq requêtes arrive sur un seau de trois jetons : trois passent, deux reçoivent un 429, puis le seau se remplit et un client resté inactif peut de nouveau envoyer une rafale.

Cette vidéo a été faite avec la compétence Conception de systèmes.

  • 1:05
  • Conception de systèmes
  • Narrée par Iapetus
  • Anglais

Créée à partir d’un prompt

Design a rate limiter with a token bucket. Show a burst of requests and which ones get a 429.

Transcription de la vidéo

Five simultaneous requests can overwhelm your API unless you control the burst.

You start with a client calling your API directly, but sustained traffic pushes utilization to ninety-five percent.

We insert a token bucket limiter before the API, starting with three tokens and refilling one each second.

Each request spends one token, so five arriving together let three through and reject two with HTTP four twenty-nine.

Why reject instead of queueing? Immediate refusal bounds waiting, and clients should retry later with backoff.

The bucket refills continuously up to its capacity, so an idle client can burst again.

The cost is rejected work, and multiple API replicas must share an atomic bucket per client.

Use this at API entry points: the client sends, the limiter admits, and the API handles accepted work.

Votre sujet, dessiné en une minute environ.

Vos 2 premières vidéos sont gratuites, jusqu’à 1 minute chacune, avec filigrane. Sans carte bancaire. Tout le produit, toutes les voix et tous les styles compris.