Devops mycode devoxx-france-2015-v2

@ZouheirCadi#DevopsMyCode
Devops
my
Code

DEVOPS
MY
CODE

@Zouheircadi
Dev.Archi Java, NoSQL, Prod
Co-organisateur DevoxxFr
(Ancien …) Paris JUG

Agenda

• Objectif

• Métriques pour les services métiers

•  Metriques : Générations et mesures

•  Démo : Logstash Statsd, Graphite

• Design 4 failure

• Qui suis-je ?

• Conclusion

Objec:f

• Sensibilisation des devs (java ?) à produire du code auditable/
exploitable

• Initiation à la stratégie et aux outils de monitoring

Diagramme
de
déploiement

Diagramme
de
composant

Diagramme
de
déploiement

SCM C. I. REPO.

Produc:on

Produc:on

SCM C. I.
DEV. Q. A. PRODUCTION
REPO.

METRIQUES

METRIQUES

Layer

Example

Metric

Application
layer

API Calls

Type, rate

Service layer

Apache, Storage,
Caches, …

Apache : request rate,
response time, busu
workers

RDMMS : Busy/
sleeping connections,
query rates

Physical layer

CPU, memory, disk,
network

CPU : user, system,
%wait

Disk : space
utilization, I/O rates,
%wait

Network : bytes in/
out

Genera:on
de
metriques

spring.xml

Genera:on
de
metriques

PetstoreAspect.java

Genera:on
de
metriques

logback.xml

Genera:on
de
metriques

2014-10-11 12:39:23 INFO service.catalog.impl.CatalogServiceImpl.findCategory YES 253
Timestamp Données

Genera:on
de
metriques

www.logstash.net/docs/1.4.2/learn

Logstash

Logstash

input {
file {
type => "audit-log"
path => "/${TOMCAT_HOME}/log/business.layer.log"
}
}
filter {
if [type] == "audit-log" {
grok {
match => [ "message" , "%{TIMESTAMP_ISO8601:timestamp} %{DATA:THREAD} %{WORD:LEVEL}
%{DATA:method} %{WORD:returnCode} %{NUMBER:responseTime}" ]
}
}
}
output {
statsd {
host => "localhost"
port => 8125
timing => [ "%{method}.time_ms", "%{responseTime}" ]
}
}

Statsd

• Deamon NodeJS

• Fonctionne sous le protocole réseau UDP

• Ecoute des statistiques et les agrègent avant envoi vers
Graphite

• Fournit un support pour différents types de métriques

•  Counter

•  Timer

•  Gauges

•  Set

Statsd

• Counting / Sampling : send increments from your application

com.ServiceImpl.authenticate:1|c

com.ServiceImpl.createUser:1|c|@0.1

Statsd

• Timing :

•  time

•  Statistique la plus intéressante pour récolter les métriques
d’un service métier

com.ServiceImpl.ﬁndCategory:230 | ms

Cen:le

• Effectif d’une distribution divisée en 100 parts égales

•  Distribution coupée en tranches de 1%

•  Médiane C50

•  50% des valeurs lui sont inférieures

•  50% des valeurs lui sont supérieures

•  90Percentile

•  90% des valeurs lui sont inférieures

•  10% des valeurs lui sont supérieures

StatsD

• Gauges

• Sets

• Multi-Metric Packets

Graphite

collecting-metrics-with-graphite-and-statsd

Graphite
-‐
architecture

• Graphite web

•  Front end.

•  Visualisation des métriques sous forme de graphique.

•  « Powerfull plotting API »

• Carbon

•  Ensemble de 3 process en charge de la réception,
l’agrégation et la persistance des données sur disque

• Whisper

•  Base de données de séries chronologiques

All
in
one

LOGS LOGSTASH STATSD GRAPHITE

@YourTwitterHandle@YourTwitterHandle@ZouheirCadi#DevopsMyCode
Demo

Métriques
-‐
process

• Mesurer (ligne de log)

• Monitorer

• Alerter

• Decider

• Agir

Monitoring
-‐
Aler:ng

• Monitoring

•  Graphite,

•  Ganglia (monitoring des systèmes distribués)

•  Outils payants : newRelic, AppDynamics

• Alerting

•  Nagios

•  Outils payants : newRelic, AppDynamics

Supervision
batch/audit

Supervision
audit

Résilience

Quelle(s)
métrique(s)

• Metrique de contrôle du fonctionnement courant

•  1 appel = 1 metrique

•  Interception des appels de la couche métier

•  AccessLogs

•  Tomcat => Valve

Quelle(s)
métrique(s)

• Métrique de dysfonctionnement

•  $$$$$

•  Dégrade le fonctionnement

Qui
suis-‐je

Qui
suis-‐je
?

Qui
suis-‐je
?

• Plugin maven : properties-maven-plugin

• Génération d’un ﬁchier

• Contenant les deux properties

•  project.version

•  maven.build.timestamp

• Properties lues grâce à un service

Health-‐check

• Resource fournissant des informations sur l’application

•  Serveur d’application

•  Service accédé via le serveur d’application

• Utilisé par des humains (dev, integrateurs, sysadmin, …)

• Used by automates for monitoring

Health-‐check

Que
fais-‐je
?

Ou
suis-‐je
:
Dans
quelle
organisa:on
?

CONCLUSION

Conclusion

URLographie

•  http://pivotallabs.com/139-metrics-metrics-everywhere/

•  https://wooster.checkmy.ws/fr/doc/graphite/

•  https://wooster.checkmy.ws/2013/12/time-series-databases/

•  https://github.com/hopsoft/docker-graphite-statsd

•  http://tomcat.apache.org/tomcat-7.0-doc/conﬁg/valve.html

•  http://java.dzone.com/articles/java-performance-troubleshooti-0

•  http://rubynaut.net/2012/08/30/application-monitoring/

•  http://www.logstash.net/docs/1.4.2/learn

•  http://fr.slideshare.net/itnig/collecting-metrics-with-graphite-and-statsd

•  http://docs.spring.io/spring-framework/docs/current/spring-framework-reference/html/
index.html

Bibliographie

•  Web operations, keeping the data on time, John Allspaw and Jesse Robbins,
2010, O’Reilly Ed.

•  Continuous delivery, Jez Humble and David Farley, 2010, Addison Wesley
Ed.

Con:nuous
delivery

Q & A

Devops mycode devoxx-france-2015-v2

Recomendados

Recomendados

Mais conteúdo relacionado

Destaque

Destaque (18)

Semelhante a Devops mycode devoxx-france-2015-v2

Semelhante a Devops mycode devoxx-france-2015-v2 (20)

Devops mycode devoxx-france-2015-v2