Présentation sur les caches faite au Breizhcamp 2014 à Rennes

1. Une partie de cache-cache
Frédéric Bouchery

2. Qui suis-je ?
Frédéric Bouchery
➔ Développeur depuis 1983 (Ouïlle)
➔ Expérience professionnelle depuis 1996
➔ Expert PHP (pratique depuis 1999)
➔ Aujourd'hui, Lead Developer pour le groupe CCM Benchmark
➔ fbouchery@ccmbenchmark.com
➔ http://fr.linkedin.com/in/bouchery/
➔ @FredBouchery

3. LE LEADER FRANCAIS
SUR INTERNET

4. Google sites
Facebook
Microsoft sites
CCM Benchmark
Yahoo ! sites
Wikimedia found.
Orange sites 20,4
21
21,8
23,2
29,8
35,3
43,7
Source: comScore MMX, France, Age 6+, Avril 2013
Top des sites en France - Visiteurs Uniques (en millions)
87ième
au classement mondial avec 60 millions de VU

5. L'informatique, c'est l'art de passer des mois à
essayer de gagner des millisecondes !

6. 2 4 6 8 10
25%
50%
Temps de
chargement (s)
Abandon

8.  chargement des ressources
 scripts bloquants
 temps de réponse serveur

9. Une aide précieuse
Les caches

10. Cache de navigateur
Web storage
Cache partagé
Cache de données
Cache d'OP-code
Cache de requêtes
Navigateur
Proxy
Reverse Proxy
Serveur d'applications
Services externesBase de données

11. La chaîne de caches n'est pas
toujours bien maîtrisée.
La chaîne de caches n'est pas
toujours bien maîtrisée.

12. Expires: Sat, 26 Jul 1997 05:00:00 GMT
Last-Modified: Fri, 16 May 2014 20:00:43 GMT
Cache-Control: no-store, no-cache, must-revalidate
Cache-Control: post-check=0, pre-check=0
Pragma: no-cache

13. Cache-Control:max-age=31536000
Date:Wed, 21 May 2014 14:58:17 GMT
ETag:"984209107"
Expires:Thu, 21 May 2015 14:58:17 GMT
Last-Modified:Wed, 21 May 2014 12:32:09 GMT
Vary:Accept-Encoding

14. Navigateur
Proxy
Application
Webservice
BdD
1 2
3
4
5

15. Sans contraintes, les caches
appliquent des règles par défaut

16. Ne laissez pas les
navigateurs / Proxies
gérer le cache pour vous !
Toutes vos réponses devraient contenir un « Cache-Control » !

17. Ctrl F5
L'enfer du ...
- C'est corrigé
- Non, ça ne fonctionne pas sur mon poste !?
- Essayes avec un Ctrl+F5 !
- Ha oui, là, c'est bon ….

18. F5
Cache-Control: max-age=0
If-Modified-Since: Xxx, xx xxx xxxx xx:xx:xx GMT
Sauf Internet Explorer qui ne donne pas de « Cache-Control »

19. Ctrl F5
Cache-Control: no-cache
Pragma: no-cache
Sauf Internet Explorer qui ne donne pas de « Pragma »

20. Sauf que …
Ne fonctionne plus avec les ressources chargées
par Ajax !
Après le « window.onload », le navigateur prend
dans son cache

21. Toutes les ressources statiques devraient être :
Cache-control: public, max-age=30000000
Last-Modified: Xxx, xx xxx xxxx xx:xx:xx GMT
Une modification
Un nouveau nom !
Ou un paramètre dans l'URL

22. Cache navigateur important quand
PV/VU est élevé
Cache navigateur important quand
PV/VU est élevé

23. Beaucoup de visiteurs oblige à
exploiter les caches partagés
Beaucoup de visiteurs oblige à
exploiter les caches partagés

24. Pages dynamiques
Time To Live (TTL)

25. « Hit ratio » sur 24 heures

27. Nombre total d'URLs
1.441.531
Les 100ières
représentent
9% des PV

28. 1 mois 2 mois 3 mois 6 mois 1 an
5 min 9 % 7 % 6 % 4 % 3 %
15 min 22 % 18 % 15 % 11 % 7 %
30 min 37 % 31 % 26 % 18 % 11 %
1 h 56 % 47 % 40 % 28 % 17 %
2 h 73 % 60 % 52 % 36 % 22 %
3h 78 % 64 % 55 % 38 % 24 %
6h 80 % 66 % 57 % 39 % 25 %
12 h 80 % 66 % 57 % 40 % 25 %
24 h 80 % 67 % 57 % 40 % 25 %
TTL
Longueur de la traîne
Hit-ratio

29. Si on augmente le TTL :
➔
Augmente le hit-ratio
➔
Risque de saturation mémoire
➔
Contenu surgelé

30. Cache à 2 niveaux
URL très demandées (> 4 req/h ?):
Cache chaud en mémoire
Longue traîne :
Cache froid en fichier (NoSQL?)

31. Politique d'éviction :
LRU, LFU, GDFS, etc. ?
Faux problème !

32. Augmenter la mémoire en
répartissant (sharding)
Supprimer des paramètres variants non
utilisés par la page

33. Supprimer l'entête
Vary: Accept-Encoding
Firefox et IE gzip,deflate
Chrome gzip,deflate,sdch
Opera gzip,deflate,lzma,sdch
Envoyez systématiquement du gzip

34. « J'ai besoin parfois de
rafraîchir avant la fin du TTL »

35. Pour rafraîchir un contenu,
éviter d'effacer le cache !
Risque de « ruée »
(Thundering herd)

36. Périmer artificiellement le contenu et activer
le « stale cache »
Forcer les « miss » pour des adresses
internes ou une entête spécifique

37. Exemple de solution
Écriture
Requête de la page (Async)
+
« Miss » sur le cache à 2 niveaux

38. Autre possibilité
Écrire directement dans le
cache de longue traîne (fichier)
Pré-construction de cache

39. Invalidation de plusieurs pages
Multi-taggage des contenus

40. Modification de design
Évitez la « grande purge »
Crawling + « Miss »
ou purge du cache de longue traîne
Une action à planifier !

41. Cache partiel
Les Edge Side Includes
<esi:include />
Pas besoin de plus

42. Entête : 1 heure
Navigation
3 heures
Article : 1 mois
Comment
5 minutes
compte
(pass)

43. 3 Solutions se démarquent
Apache à la traîne … mais ...
➔ Varnish
➔ Nginx
➔ Squid

44. Varnish est la solution qui offre aujourd'hui le
plus de possibilité
Bonus : Nginx + Redis = accès direct au cache
Nginx reste plus performant sur les contenus
statiques

45. Trop de contenus privés ?
Cache applicatif

46. 2 types de cache
➔ Partagé (distant)
➔ Non partagé (local)

47. Serveur
Serveur
HTTP
Cache
Mémoire
shard 1
Serveur
Serveur
HTTP
Cache
Mémoire
shard 2
Serveur
Serveur
HTTP
Cache
Mémoire
shard 3
Cache partagé réparti

48. Attention, sans sharding
Risque de désynchronisation
A chaque rafraîchissement, un résultat différent

49. 2 Solutions se démarquent
➔ Memcached
➔ Redis
Autres solutions moins performantes :
Les « NoSQL » (MongoDB, CouchDB, Cassandra, etc.)
ou base avec table en mémoire (ex : MySQL + Memory Engine)

50. Memcached est la solution qui semble la plus
performante
Bonus : Redis permet de faire du message queuing
Redis est beaucoup plus riche en fonctionnalité

51. Content Delivery Network
Oui, pour les sites internationaux
Serveur
Utilisateur

52. Pour les développeurs PHP ...

53. Optimiser le temps de traitement
Réduire le temps de parsing du code
Cache d'OP-Code

54. Utilisation d'APC comme cache applicatif est
bien plus performant qu'un Memcached
Limité en mémoire
(actuellement max 512 Mio)

55. PHP 5.5 embarque un cache d'OP-Code
Extension PECL : APCu

56. Exploiter le cache d'OP-Code en générant
des scripts PHP qui retournent des tableaux
<?php return array(
'id' => 'Ma donnée'
);
<?php
$data = include 'script.php';
<?php
$content = var_export($data, true);
file_put_contents('script.php', '<?php return ' . $content .';');
script.php

57. Pour résumer
✔ Maîtrisez vos caches
✔ Trouvez le bon TTL en fonction du contexte
✔ Réfléchir à la stratégie d'invalidation
✔ Plusieurs niveaux de cache
✔ Étudier le comportement des internautes
✔ Suivre les évolutions des solutions

58. Merci de votre
attention
➔ fbouchery@ccmbenchmark.com
➔ http://fr.linkedin.com/in/bouchery/
➔ @FredBouchery