Latence de 250 ms avec 32 workers
Calculez la capacité d'un service lent, à 250 ms par requête, avec 32 workers.
Par Jimenez Julien, éditeur de Témoin 19 · mis à jour le
- Capacité maximale
- 128 requêtes/s
- Simultanéité nécessaire pour la cible
- 25
- Utilisation de la capacité
- 78,1 %
- Lecture
- Au-dessus de 70 % : les temps d'attente augmentent vite.
Loi de Little : simultanéité = débit × temps de service. Le calcul ignore les files d'attente et la variabilité.
Le cas en détail
Quand chaque requête attend une base de données lente, la capacité chute : 32 workers n'offrent que 128 requêtes par seconde. Ajouter des workers ne suffit pas si la base est le goulot.
À retenir : Réduire la latence double la capacité aussi sûrement que doubler les workers, souvent à moindre coût.
L'exemple chiffré
Valeurs utilisées dans ce cas (des hypothèses d'exemple, pas des mesures) :
- Latence moyenne par requête en ms : 250
- Workers ou connexions simultanées : 32
- Cible en requêtes par seconde : 100
- Capacité maximale
- 128 requêtes/s
- Simultanéité nécessaire pour la cible
- 25
- Utilisation de la capacité
- 78,1 %
- Lecture
- Au-dessus de 70 % : les temps d'attente augmentent vite.
Loi de Little : simultanéité = débit × temps de service. Le calcul ignore les files d'attente et la variabilité.
Modifiez les champs ci-dessus pour adapter le calcul à votre situation : le résultat se met à jour tout de suite.
Comment ça se calcule
La capacité maximale vaut le nombre de workers multiplié par 1 000, divisé par la latence en millisecondes. La simultanéité nécessaire pour une cible de requêtes par seconde est cette cible multipliée par la latence en secondes, arrondie à l'entier supérieur.
Les résultats sont fournis à titre indicatif, sans valeur d'engagement ni de conseil professionnel.