2. Performance e Autoscaling
2
Due lati della stessa medaglia

3. 3
Aspetta, provo questo
e andiamo online!

4. Chi sono
4
• LUIGI MOLINARO – neen
Di cosa parlerò
• Che cosa è l'auto-scaling ?
• Di cosa ho bisogno per scalare ?
• Scaling & Perfomance: Strumenti di Benchmark
• Tuning Magento per l’auto-scaling
• Video scaling
• Analisi dei Benchmark effettuati
• Rischi legati all'autoscaling

5. Traffic Patterns
5
Predictable Bursts1 Un Predictable Bursts2 Constantly Growing3

6. Upfront server investment
6
CAPACITY
TIME
Source AWS
Large upfront
investment
Large upfront
investment
FIXED CAPACITY
PREDICTION

7. 7
CAPACITY
TIME
Source AWS
FIXED CAPACITY
ACTUAL DEMAND
Fixed vs Actual demand

8. 8
CAPACITY
TIME
Source AWS
FIXED CAPACITY
ACTUAL DEMAND
1° Problema: Capacità inutilizzata

9. 9
CAPACITY
TIME
Source AWS
FIXED CAPACITY
ACTUAL DEMAND
2° Problema: Picchi non gestiti

10. 10
CAPACITY
TIME
Source AWS
ACTUAL DEMAND
VIRTUALIZED INFRASTRUCTURE
Autoscaling
We can closely align our infrastructure
with our load requirements and save costs

11. Why Amazon AWS?
11
•Il cloud pubblico più famoso al mondo
•Ambiente standard e conosciuto per i test
•Ottimo sistema di Autoscaling
•Cloud Specialist

12. Solution components
12
• Magento CE
• EC2 (Elastic Compute Cloud)
• EBS (Elastic Block Storage)
• ELB (Elastic Load Balancer)
• Amazon Elastic Ip Address (Varnish)
• Amazon ClaudWatch
• NFS
• Nginx
• Php-fpm APC
• Redis
• Memcache
• Varnish

13. Autoscaling Benchmarks
13
BENCHMARK 1
• Un singolo server (senza cache, cache, redis/memcache, Magento Tuned, Mage 100k)
BENCHMARK 2
• Scaling Orizzontale dell’infrastruttura
BENCHMARK 3
• Scaling con Varnish (no cache-cache)

14. Autoscaling Key
14
• Varnish
• CloudWatch
• Template studiato per scalare
• Memcache sessioni, Redis cache

15. Template studiato per scalare
15
• Immaginare come si comporta un nuovo server da zero
• Sfruttare sistemi di automazione (Puppet, Chef, oppure ignegniarsi ! :-)
• Php Session
• Log Server remoto
• Monitoring Server
• Il server può essere terminato
• Storage distribuito (NFS)

16. CloudWatch metrics
16
Create new launch configuration:
> as-create-launch-config my-launch-config –image-id (template ottimizzato frontend) –
instance type m1.small –key my-key-pair –group my-security-group
Create auto scale group:
> as-create-auto-scaling-group “my-as-group” --availability-zone eu-west-1 –launch-
configuration my-launch-config –max-size 10 –min-size 1 –cooldown 180 –load-balancers
my-load-balancer
Create auto scale group:
> as-create-or-update-trigger my-as-trigger –auto-scaling-group –namespace “mm14” --
measure CPU Utilization –statistics Average –dimension “AutoscalingGroupName= my-as-
group” --period 60 –lower-treshold 20 –upper-treshold 80 –lower-breach-increment 2 –
upper-breach-increment 4 –breach-duration 180

17. Redis + memcache
17
•Redis good for cache
•Memcache good for sessions

18. Strumenti per l’analisi
18
• Strumenti di analisi lato server (Munin, Nagios, Cacti, Zabbix, Ganglia)
• Strumenti di analisi applicativo / profiling (Zend server, Xdebug, Xhprof, MySql tuner, New
Relic)
• Strumenti grafici (kcachegring, webgring, xhgui, xhprof.io)
Stress testing tools Opensource / Commerciali
(Apache Jmeter, Siege, Httperf, Tsung / LoadImpact, flood.io, Load Tester)

19. Test applicativo
19
• Si è presa la sitemap.xml e la si è data in pasto a SIEGE (Usare log Varnish/web
server in casi complicati o per avvicinarsi al caso reale più possibile)
• Script per popolare database con 100.000 prodotti
• Si è lanciato SIEGE con uno script in bash per aumentare la concorrenza
gradualmente
• Ogni 30 secondi incremento di 10 utenze contemporanee
• I dati si sono graficati grazie a highcharts.com

20. 20
Autoscaling video

21. Analisi grafici
21
• Riepilogativo dei test, con evidenza dei possibili visitatori / costi nelle varie ipotesi

22. Varnish
22
• Cos’è
• Perché
• Criticità nell’inserirlo all’interno dell’autoscaling Amazon
• Soluzione al problema

23. Analisi costi
23
Soluzione
Utenti
contemporanei
Costi indicativi
(al mese)
1 Nodo 10 $ 80,00
2 Nodi (www + MySql) 35 $ 200,00
3 Nodi (www + NFS + MySql) 35 $ 240,00
12 nodi (10x www + NFS + MySql) 150 $ 720,00
4 Nodi (www + NFS + MySql + Varnish no cache) + 9x www al 10% 150 $ 450,00
4 Nodi (www + NFS + MySql + Varnish cache) + 6x www al 10% > 150 $ 440,00

24. 24
GRAZIE!

25. Follow us
25
facebook.com/neen.datacenter
@neendatacenter
youtube.com/neendatacenter
linkedin.com/company/neen-srl
neen s.r.l.
Via Mecenate 76/20A - 20138 Milano
T: (+39) 02.45485420 - F: (+39)
02.45485432
E: info@neen.it
Web: www.neen.it
Follow me
@luigimolinaro
it.linkedin.com/in/luigimolinaro/