Transferir como PDF, PPTX
Carregado porJean Carlo Emer
Cache em aplicações web
O documento discute estratégias de cache em diferentes camadas como navegador, rede, servidor e aplicação. O cache melhora o desempenho ao armazenar recursos para uso futuro, evitando novas requisições e cálculos. Cabeçalhos HTTP definem como e quando recursos podem ser cacheados.
Cache em aplicações web
- 1.
- 2.
- 3.
- 4. Cache is ahardware or software component that stores data so future requests for that data can be served faster - Wikipedia
- 5. There are onlytwo hard things in computer science: cache invalidation and naming things. - Phil Karlton 😓
- 6. Caching and RAMis the answer to everything - about Flickr Architecture
- 7. Cache é umdos segredos da escalabilidade e boa performance
- 8. esta palestra ésobre algumas práticas utilizadas na globo.com e em especial no Globo Play 😊
- 9. Onde pode havercache? • navegador do usuário • rede mundial de computadores • servidor da sua aplicação
- 10.
- 11. Caching would beuseless if it did not significantly improve performance - HTTP/1.1 specification
- 12. Recursos necessários para exibiruma página podem ser reutilizados durante a navegação
- 13. • documentos • imagens •scripts e folhas de estilo • requisições assíncronas O que pode ser cacheado? por alguns minutos por alguns meses por alguns meses por alguns minutos
- 14. Os cabeçalhos deresposta do HTTP estabelecem como e se o cache pode ser feito
- 15. GET /main.css HTTP/1.1 Host:jcemer.com
- 16. GET /main.css HTTP/1.1 Host:jcemer.com HTTP/1.1 200 Date: Tue, 13 Sep 2016 13:32:50 GMT Cache-Control: max-age=604800 guarde por 7 dias!
- 17. permite que aresposta da requisição seja armazenada no cache Cache-Control: max-age=604800 Cabeçalho de resposta
- 18. folha de estiloé requisitada uma única vez durante a navegação 😄 😄
- 19. Novas requisições são disparadasquando o recurso está expirado ou o usuário força a atualização da página 😁
- 20. permitem adicionar mais informaçõessobre o recurso Last-Modified: Mon, 12 Sep 2016 22:06:39 GMT Etag: W/"337e7-8HrLmYe6UGIUDolQeGLoyw" Cabeçalhos de resposta
- 21. GET /main.css HTTP/1.1 Host:jcemer.com HTTP/1.1 200 OK Date: Tue, 13 Sep 2016 13:32:50 GMT Last-Modified: Mon, 12 Sep 2016 15:23:17 GMT Cache-Control: max-age=604800 informação nova
- 22. permitem reaproveitar o recursocaso a cópia em cache ainda seja válida If-Modified-Since: Mon, 12 Sep 2016 15:23:17 GMT If-Match: W/"337e7-8HrLmYe6UGIUDolQeGLoyw" Cabeçalhos de requisição
- 23. GET /main.css HTTP/1.1 Host:jcemer.com If-Modified-Since: Mon, 12 Sep 2016 15:23:17 GMT
- 24. GET /main.css HTTP/1.1 Host:jcemer.com If-Modified-Since: Mon, 12 Sep 2016 15:23:17 GMT HTTP/1.1 304 Not Modified Date: Tue, 13 Sep 2016 13:32:50 GMT Last-Modified: Mon, 12 Sep 2016 15:23:17 GMT Cache-Control: max-age=604800 <EOF>
- 25. Práticas como esta modificamcompletamente a experiência do usuário
- 26.
- 27. Content delivery network (CDN)is a globally distributed network of proxy servers - Wikipedia
- 28. permite dar liberdadepara servidores de cache intermediários Cache-control: public
- 29. Documentação de comofazer cache dos vídeos da globo.com https://github.com/globocom/Globo-Live-Cache
- 30. Documentação de comofazer cache dos vídeos da globo.com TL;DR respeite os cabeçalhos das respostas https://github.com/globocom/Globo-Live-Cache
- 31.
- 32.
- 33. O servidor decache intermedia a comunicação com a aplicação ou demais servidores
- 34. • imagens • scriptse folhas de estilo • documentos comuns a todos os usuários O que pode ser cacheado? por alguns meses por alguns meses por alguns minutos
- 35. • Varnish • Squid •nginx Quais ferramentas existem? https://varnish-cache.org http://www.squid-cache.org https://www.nginx.com
- 36. nginx pode operarcomo um proxy reverso e como cache
- 37. location / { proxy_passhttp://otherserver; } todas as requisições são repassadas para outro servidor
- 39. proxy_cache_path /path/to/cache; location /{ proxy_pass http://otherserver; proxy_cache cache; } caching ativado!
- 40.
- 41. Os cabeçalhos das respostasdefinem os tempos de cache assim como em um navegador
- 42.
- 43. t1 t1 requisições em um mesmoinstante! 😓
- 44. proxy_cache_lock on; proxy_cache_lock_timeout 180; apenasa primeira request por determinado recurso é encaminhada
- 45.
- 46. Requisições subsequentes a umrecurso ficarão aguardando que o cache seja atualizado
- 47. 😞 e caso minharede interna falhe?
- 48. proxy_cache_use_stale timeout errorhttp_500; permite entregar conteúdo antigo caso algum erro aconteça
- 49.
- 50. e caso minha aplicaçãofalhe? 🤒
- 51. proxy_cache_use_stale http_500; permite entregar conteúdoantigo caso a aplicação retorne erro
- 52.
- 53. Esta prática podegarantir que seu produto não caia
- 54. Cache é também umaexcelente estratégia de tolerância a falhas
- 55. proxy_cache_use_stale updating; permite entregar conteúdoantigo para requisições subsequentes
- 56. Varnish e Squidpossuem estratégias melhores para revalidar o cache sem penalizar o usuário http://serverfault.com/questions/576402/nginx-serving-stale-cache- response-while-updating
- 57.
- 58. Cache na aplicaçãoé utilizado para diminuir o tempo de resposta de determinadas operações
- 59. • computações complexas •dados comuns a certas requisições O que pode ser cacheado?
- 60. def program @program ||=Program.find(@program_id) end Video class
- 61. Memoization é aprática de armazenar o resultado de operações para evitar futuras execuções
- 62. def program @program =Program.find(program_id) unless defined? @program end https://github.com/rails/rails/commit/ 36253916b0b788d6ded56669d37c96ed05c92c5c Video class
- 63. Memoization é ideal paraoperações de objetos instanciados durante uma requisição
- 64. Memoization em objetos instanciadosdurante uma requisição possibilita pouco reuso 😓
- 65.
- 66. Objetos instanciados uma únicavez no ciclo de vida da aplicação servem como in-memory cache
- 67.
- 68. Resultados armazenados em objetosvitalícios necessitam de um tempo de expiração 😓
- 69. cache.write(key, value, expires_in:1.minute) http://api.rubyonrails.org/classes/ActiveSupport/Cache/Store.html ActiveSupport::Cache::Store
- 70.
- 71. Toda aplicação possuium limite prático de memória 😓
- 72.
- 73.
- 74. when the cacheexceeds the allotted size, a cleanup will occur which tries to prune the cache down ActiveSupport::Cache:: MemoryStore
- 75. A moda agoraé escalar horizontalmente as aplicações em diversos containers 😓
- 78.
- 79. Never assumes that anythingcached in memory or on disk will be available on a future request https://12factor.net/processes
- 80. Uma storage cache-valor podeservir como cache para seus containers
- 81. • Redis • Memcached Quaisstorages chave +valor existem? http://redis.io http://memcached.org
- 82.
- 83. Redis suporta diferentes políticaspara gerir o máximo espaço consumido
- 84. noeviction allkeys-lru evict keystrying to remove the less recently used keys first volatile-lru equals allkeys-lru but only among keys that have an expire set http://redis.io/topics/lru-cache
- 85. O uso deum serviço para cache introduz um ponto único de falha 😓
- 86. redis ativado * gráfico doAPI gateway do Globo Play
- 87. Redis suporta tolerância afalhas através de persistência em disco, replicação e sentinel http://redis.io/topics/persistence http://redis.io/topics/replication http://redis.io/topics/sentinel
- 89. Sharding pode escalaro cache horizontalmente e melhorar a tolerância a falhas https://github.com/twitter/twemproxy
- 90.
- 91.
- 92.
- 93.
- 94. Diversas instâncias da aplicaçãopoderão tentar revalidar o resultado ao mesmo tempo 😓
- 95. dado expirado nocache! 😁
- 96. cache.fetch(key, race_condition_ttl: 10.seconds)do heavy_db_computation end http://api.rubyonrails.org/classes/ActiveSupport/Cache/Store.html ActiveSupport::Cache::Store
- 97. race_condition_ttl revalida o cacheeditando o valor armazenado
- 98. race_condition_ttl revalida o cacheeditando o valor armazenado mas a leitura e escrita não é transacional!
- 99.
- 100. Solução #1 Utilizar algumartifício de query cache no próprio banco de dados 😒
- 101. Solução #2 Manter ocache sempre válido com a ajuda de um worker 🙂
- 102. Solução #3 Reescrever todasua aplicação em Elixir 😎
- 103. Solução #4 Criar ummicro-serviço para esta operação crítica protegido por um servidor de cache 😍
- 104.
- 105. nginx pode serum ótimo aliado para proteger serviços internos
- 106.
- 107.
- 108.
- 109. Monitore hit/miss e outrasmétricas da sua estratégia de cache #3
- 110. Pondere bem antes deescolher uma estratégia de cache #4
- 111.