Cache avec 95 % de succès
Calculez le gain de latence d'un cache qui répond à 95 % des requêtes en 1 ms contre 80 ms à l'origine.
Par Jimenez Julien, éditeur de Témoin 19 · mis à jour le
- Latence moyenne avec cache
- 4,95 ms
- Latence sans cache
- 80 ms
- Réduction de la latence moyenne
- 93,8 %
- Accélération
- × 16,16
- Requêtes arrivant à l'origine
- 100 par seconde
- Requêtes évitées à l'origine
- 164 160 000 par jour
Moyenne pondérée : les échecs de cache restent lents, donc les percentiles élevés évoluent beaucoup moins que la moyenne.
Le cas en détail
Avec 95 % de succès, la latence moyenne tombe à quelques millisecondes et l'origine ne reçoit qu'une requête sur vingt. C'est le fonctionnement visé pour un contenu très consulté et peu modifié.
À retenir : Chaque point de taux de succès gagné à ce niveau a plus d'effet sur l'origine que sur l'utilisateur.
L'exemple chiffré
Valeurs utilisées dans ce cas (des hypothèses d'exemple, pas des mesures) :
- Taux de succès du cache en % : 95
- Latence du cache en ms : 1
- Latence de l'origine en ms : 80
- Requêtes par seconde : 2000
- Latence moyenne avec cache
- 4,95 ms
- Latence sans cache
- 80 ms
- Réduction de la latence moyenne
- 93,8 %
- Accélération
- × 16,16
- Requêtes arrivant à l'origine
- 100 par seconde
- Requêtes évitées à l'origine
- 164 160 000 par jour
Moyenne pondérée : les échecs de cache restent lents, donc les percentiles élevés évoluent beaucoup moins que la moyenne.
Modifiez les champs ci-dessus pour adapter le calcul à votre situation : le résultat se met à jour tout de suite.
Comment ça se calcule
La latence moyenne est la moyenne pondérée entre la latence du cache, pour la part des succès, et celle de l'origine pour les échecs. Les requêtes qui atteignent l'origine valent le débit multiplié par la part d'échecs. L'accélération est la latence sans cache divisée par la latence moyenne.
Les résultats sont fournis à titre indicatif, sans valeur d'engagement ni de conseil professionnel.