Cache avec seulement 60 % de succès
Calculez le gain d'un cache qui ne répond qu'à 60 % des requêtes, face à une origine de 200 ms.
Par Jimenez Julien, éditeur de Témoin 19 · mis à jour le
- Latence moyenne avec cache
- 81,8 ms
- Latence sans cache
- 200 ms
- Réduction de la latence moyenne
- 59,1 %
- Accélération
- × 2,44
- Requêtes arrivant à l'origine
- 200 par seconde
- Requêtes évitées à l'origine
- 25 920 000 par jour
Moyenne pondérée : les échecs de cache restent lents, donc les percentiles élevés évoluent beaucoup moins que la moyenne.
Le cas en détail
Un taux de 60 % laisse quatre requêtes sur dix à l'origine. La latence moyenne baisse, mais la queue de distribution reste lente. Il faut chercher pourquoi le cache échoue si souvent : clés trop variables, durée de vie trop courte.
À retenir : Regardez les motifs d'échec avant de dimensionner un cache plus grand.
L'exemple chiffré
Valeurs utilisées dans ce cas (des hypothèses d'exemple, pas des mesures) :
- Taux de succès du cache en % : 60
- Latence du cache en ms : 3
- Latence de l'origine en ms : 200
- Requêtes par seconde : 500
- Latence moyenne avec cache
- 81,8 ms
- Latence sans cache
- 200 ms
- Réduction de la latence moyenne
- 59,1 %
- Accélération
- × 2,44
- Requêtes arrivant à l'origine
- 200 par seconde
- Requêtes évitées à l'origine
- 25 920 000 par jour
Moyenne pondérée : les échecs de cache restent lents, donc les percentiles élevés évoluent beaucoup moins que la moyenne.
Modifiez les champs ci-dessus pour adapter le calcul à votre situation : le résultat se met à jour tout de suite.
Comment ça se calcule
La latence moyenne est la moyenne pondérée entre la latence du cache, pour la part des succès, et celle de l'origine pour les échecs. Les requêtes qui atteignent l'origine valent le débit multiplié par la part d'échecs. L'accélération est la latence sans cache divisée par la latence moyenne.
Les résultats sont fournis à titre indicatif, sans valeur d'engagement ni de conseil professionnel.