O documento descreve uma arquitetura proposta para um framework que automatiza a configuração de soluções de monitoramento de acordo com as operações realizadas em plataformas de computação em nuvem, visando integrar múltiplas soluções de forma a atender as necessidades dos administradores. A arquitetura inicial coleta informações das plataformas, detecta operações realizadas e configura as soluções de monitoramento de acordo com regras definidas.

1. 1/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Um Framework para a Constru¸c˜ao Automatizada
de Cloud Monitoring Slices Baseados em
M´ultiplas Solu¸c˜oes de Monitoramento
M´arcio Barbosa de Carvalho
Orientador: Prof. Dr. Lisandro Zambenedetti Granville
Instituto de Inform´atica
Universidade Federal do Rio Grande do Sul
Porto Alegre, 13 de mar¸co de 2015

2. 2/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Agenda
1 Introdu¸c˜ao
2 Modelo de Informa¸c˜ao
3 Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
4 Arquitetura Estendida
Comparativo dos tempos das Arquiteturas Inicial e Estendida
Tempo de resposta da Arquitetura Estendida
5 Conclus˜oes e Trabalhos Futuros

3. 3/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Introdu¸c˜ao
Computa¸c˜ao em nuvem
Recursos computacionais contratados como servi¸co
Infrastructure as a Service (IaaS)
Platform as a Service (PaaS)
Software as a Service (SaaS)
Computa¸c˜ao como utilidade
Elasticidade, escalabilidade, baixo capital de entrada
Acordos de N´ıvel de Servi¸co (SLA’s)
Gerenciamento delegado para o provedor

4. 4/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Introdu¸c˜ao
Gerenciamento de ambientes computacionais em nuvem
Garantir o cumprimento de SLA’s
Evitar penalidades e manter boa reputa¸c˜ao
Detec¸c˜ao de falhas
Utiliza¸c˜ao eficiente da infraestrutura
Evitar sobrecargas e ociosidade

5. 4/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Introdu¸c˜ao
Gerenciamento de ambientes computacionais em nuvem
Garantir o cumprimento de SLA’s
Evitar penalidades e manter boa reputa¸c˜ao
Detec¸c˜ao de falhas
Utiliza¸c˜ao eficiente da infraestrutura
Evitar sobrecargas e ociosidade
=⇒ Monitoramento!

6. 5/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento - Problema - Parte I
N˜ao existe uma ´unica solu¸c˜ao de monitoramento que satisfa¸ca
os requisitos necess´arios (Aceto et al., ComNet (2013))
Al´em de requisitos, administradores buscam determinadas
funcionalidades (e.g., gr´aficos, relat´orios, notifica¸c˜oes)

7. 6/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento - possibilidades
Evoluir/desenvolver uma solu¸c˜ao para que satisfa¸ca mais
requisitos e funcionalidades
Utilizar m´ultiplas solu¸c˜oes de monitoramento para
complementar os requisitos e funcionalidades atendidas

8. 6/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento - possibilidades
Evoluir/desenvolver uma solu¸c˜ao para que satisfa¸ca mais
requisitos e funcionalidades
Utilizar m´ultiplas solu¸c˜oes de monitoramento para
complementar os requisitos e funcionalidades atendidas

9. 7/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento de nuvens IaaS
Infraestrutura e recursos virtuais
disponibilizados aos usu´arios
(cloud slices)
Semelhante ao monitoramento
de recursos virtualizados
(Carvalho e Granville, IM 2011)
Monitoring as a Service (MaaS)
Aplicação
Plataforma
Infraestrutura
Sistema Físico
Servidor
Monitoramento
do Sistema
Físico
Monitoramento
do Sistema
Virtual
Monitoramento
do lado do
ProvedorA Nuvem
Sistema Virtual
Monitoramento
do lado do
Cliente
Monitoramento
orientado ao
Cliente
Nível
Visão
A origem da informação de monitoramento depende
se o sistema fornece IaaS, PaaS ou SaaS

10. 7/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento de nuvens IaaS
Infraestrutura e recursos virtuais
disponibilizados aos usu´arios
(cloud slices)
Semelhante ao monitoramento
de recursos virtualizados
(Carvalho e Granville, IM 2011)
Monitoring as a Service (MaaS)
+ Dinamicidade
Aplicação
Plataforma
Infraestrutura
Sistema Físico
Servidor
Monitoramento
do Sistema
Físico
Monitoramento
do Sistema
Virtual
Monitoramento
do lado do
ProvedorA Nuvem
Sistema Virtual
Monitoramento
do lado do
Cliente
Monitoramento
orientado ao
Cliente
Nível
Visão
A origem da informação de monitoramento depende
se o sistema fornece IaaS, PaaS ou SaaS

11. 8/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento de nuvens IaaS
Cloud slices podem ser criados, modificados ou exclu´ıdos a
qualquer tempo sem interven¸c˜ao de um administrador
(dinamicidade)
O monitoramento deve adaptar-se ao ambiente de
computa¸c˜ao em nuvem
Ap´os a cria¸c˜ao de um cloud slice ´e necess´ario configurar as
solu¸c˜oes de monitoramento para coletar as m´etricas
associadas este cloud slice

12. 9/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoring Slices
Monitoring Slices
Monitoring slices refletem todas as informa¸c˜oes de monitoramento
sobre um cloud slice. Ou seja, s˜ao compostos pelos valores
coletados para as m´etricas monitoradas e pelas configura¸c˜oes das
solu¸c˜oes de monitoramento que s˜ao necess´arias para colet´a-las.
Cada cloud slice ´e acompanhado por um monitoring slice, cujo ob-
jetivo ´e monitorar o cloud slice

13. 10/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoring Slices
CPU
Memória
Rede
Uso de CPU
Uso de Memória
Uso de Rede
Monitoring SlicesCloud Slices
OpenStack

14. 10/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoring Slices
CPU
Memória
Rede
Uso de CPU
Uso de Memória
Uso de Rede
Monitoring SlicesCloud Slices
OpenStack

15. 10/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoring Slices
CPU
Memória
Rede
Uso de CPU
Uso de Memória
Uso de Rede
Monitoring SlicesCloud Slices
OpenStack
Ceilometer

16. 11/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento - Problema - Parte II
Falta de integra¸c˜ao entre plataformas e solu¸c˜oes de
monitoramento
Vendor lock-in
Desenvolvimento de scripts complexos
Dinamicidade
Configura¸c˜ao manual n˜ao ´e escal´avel
Prejudica mecanismos de descoberta adotados por solu¸c˜oes de
monitoramento

17. 11/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Monitoramento - Problema - Parte II
Falta de integra¸c˜ao entre plataformas e solu¸c˜oes de
monitoramento
Vendor lock-in
Desenvolvimento de scripts complexos
Dinamicidade
Configura¸c˜ao manual n˜ao ´e escal´avel
Prejudica mecanismos de descoberta adotados por solu¸c˜oes de
monitoramento
=⇒ Automa¸c˜ao!

18. 12/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Introdu¸c˜ao
Objetivos
Uma solu¸c˜ao que:
i permita que administradores de ambientes de computa¸c˜ao em
nuvem utilizem as solu¸c˜oes de monitoramento que atendam
as suas necessidades independentemente da integra¸c˜ao
existente entre solu¸c˜ao de monitoramento e plataforma de
computa¸c˜ao em nuvem
ii automatize tarefas de configura¸c˜ao das solu¸c˜oes de
monitoramento de acordo com as opera¸c˜oes realizadas na
plataforma de computa¸c˜ao em nuvem respeitando regras
predefinidas pelos administradores do ambiente de computa¸c˜ao
em nuvem

19. 13/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Solu¸c˜ao Proposta
Solu¸c˜ao Proposta
´E proposta uma arquitetura para um framework que:
Coleta informa¸c˜oes das plataformas
Detecta as opera¸c˜oes realizadas nas plataformas
Configura as solu¸c˜oes de monitoramento para reagir `as
opera¸c˜oes e de acordo com regras definidas pelo administrador

20. 14/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Solu¸c˜ao Proposta - Modelo de Informa¸c˜ao
Possibilidades: DMTF OVF, OGF OCCI e VXDL
Deve ser flex´ıvel para n˜ao prejudicar a generalidade do
framework
Tamb´em permite que informa¸c˜oes complementares sejam
adicionadas pelos administradores (e.g., assinaturas de
Monitoring as a Service)
Optou-se por desenvolver um modelo:
Generalidade/flexibilidade
Esfor¸co de aprendizado por administradores para utiliza¸c˜ao do
framework
Ainda n˜ao h´a defini¸c˜ao clara de um modelo padr˜ao/ideal

21. 15/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao

22. 15/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao

23. 15/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao

24. 15/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao

25. 15/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao

26. 16/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Modelo de Informa¸c˜ao
Modelo de Informa¸c˜ao - Instˆancia

27. 17/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Arquitetura Inicial
Framework Core
Gatherers
Configurators
REST
WebService
Change
Detection
Configuration
Executor
...Cloud Platform
...
Cloud
Slices
Cloud Monitoring
...
Monitoring
Slices
...

28. 18/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Framework Core
Gatherers
Configurators
REST
WebService
Change
Detection
Configuration
Executor
...Cloud Platform
...
Cloud
Slices
Cloud Monitoring
...
Monitoring
Slices
...
Gatherers
Coletam informa¸c˜oes sobre os cloud slices hospedados na
plataforma (e.g., @slice.ip, @slice.identifier,
@slice.owner)
Tratam as peculiaridades das APIs (e.g., Amazon EC2 API)
Enviam as informa¸c˜oes coletadas para o Framework Core
atrav´es do REST Web service

29. 18/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Framework Core
Gatherers
Configurators
REST
WebService
Change
Detection
Configuration
Executor
...Cloud Platform
...
Cloud
Slices
Cloud Monitoring
...
Monitoring
Slices
...
Gatherers
Coletam informa¸c˜oes sobre os cloud slices hospedados na
plataforma (e.g., @slice.ip, @slice.identifier,
@slice.owner)
Tratam as peculiaridades das APIs (e.g., Amazon EC2 API)
Enviam as informa¸c˜oes coletadas para o Framework Core
atrav´es do REST Web service

30. 19/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Framework Core
Gatherers
Configurators
REST
WebService
Change
Detection
Configuration
Executor
...Cloud Platform
...
Cloud
Slices
Cloud Monitoring
...
Monitoring
Slices
...
Framework Core
Processa as informa¸c˜oes coletadas pelos Gatherers
Detecta opera¸c˜oes realizadas na plataforma
Avalia interesses e condi¸c˜oes (regras) dos Configurators
Recupera atributos utilizados pelos Configurators
Executa os Configurators

31. 20/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Framework Core
Gatherers
Configurators
REST
WebService
Change
Detection
Configuration
Executor
...Cloud Platform
...
Cloud
Slices
Cloud Monitoring
...
Monitoring
Slices
...
Configurators
Configuram as solu¸c˜oes de monitoramento
Tratam as peculiaridades das solu¸c˜oes de monitoramento tais
como o m´etodo de configura¸c˜ao (e.g., arquivo de configura¸c˜ao,
scripts)
Possuem interesses e condi¸c˜oes para que sejam executados
apenas em rea¸c˜ao `as opera¸c˜oes adequadas

32. 21/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Configurators - interesses
Tabela: Interesses de Configurators que s˜ao suportados pelo framework
Objeto
Opera¸c˜oes
New Update Delete
Platform new platform update platform delete platform
Cloud new cloud update cloud delete cloud
Slice new slice update slice delete slice
Resource new resource update resource delete resource

33. 22/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Configurators - condi¸c˜oes
Condi¸c˜oes s˜ao testes executados sobre um objeto para
verificar se um Configurator deve ser executado para uma
opera¸c˜ao sobre aquele objeto
@platform.identifier =~ /OpenStack/
@cloud.identifier =~ /production/
@slice.MaaS =~ /platinum/
@resource.identifier =~ /network/

34. 23/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Configurators - exemplo
Nome : configure_mrtg
Interesse : New resource
Condi¸c~ao : @resource .identifier =~ /network /
Comando : /usr/sbin /configure_mrtg .pl
Args : --slice_name @slice.identifier
--ip @slice.ip
--interface_name @resource .interface

35. 24/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Prot´otipo - FlexACMS
Flexible Automated Cloud Monitoring Slices

36. 25/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Avalia¸c˜ao - Tempo de resposta da Arquitetura Inicial
Objetivo: avaliar a escalabilidade em rela¸c˜ao ao tempo de
resposta variando:
n´umero de cloud slices j´a armazenados (0,250,500,750,1000)
n´umero de novos monitoring slices em uma rajada
(10,40,70,100)
Plataforma e Gatherer: 2 Gatherers artificiais
Gatherer simples e inteligente
Monitoramento e Configurator: um Configurator simples
apenas cria um arquivo atrav´es de uma conex˜ao SSH
Framework Core
e Configurator
Gatherer e
Monitoramento
Switch 1 Gbps

37. 26/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
050100150
Cloud Slices armazenados
TempodeResposta(s)
Novos monitoring slices
10 40 70 100
0 250 500 750 1000
(a) Gatherer simples
050100150 Cloud Slices armazenados
TempodeResposta(s)
Novos monitoring slices
10 40 70 100
0 250 500 750 1000
(b) Gatherer inteligente
Figura: Tempo de resposta da arquitetura inicial com Gatherers simples e
inteligente

38. 27/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(n3
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo

39. 27/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(n3
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo
Conclus˜oes
O(n3
): R2
alto e p-value alto
O(n2
): R2
alto e p-value baixo

40. 27/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(n3
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo
Conclus˜oes
O(n3
): R2
alto e p-value alto
O(n2
): R2
alto e p-value baixo
O(n2
) =⇒ N˜ao escal´avel

41. 28/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Arquitetura Inicial - desvantagens
N˜ao escal´avel (O(n2))
O tratamento de uma requisi¸c˜ao ´e tratado como uma tarefa
monol´ıtica
N˜ao aproveita os recursos computacionais dispon´ıveis
(paralelismo e avalia¸c˜ao de CPU e mem´oria)
Atribui¸c˜ao manual e est´atica de tarefas de configura¸c˜ao
N˜ao leva em considera¸c˜ao a carga do servidor de
monitoramento

42. 29/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...

43. 30/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Arquitetura Estendida - melhorias
Divide o processamento de uma requisi¸c˜ao em tarefas menores
(filas e trabalhadores)
Capaz de explorar o paralelismo dispon´ıvel nos dispositivos
Atribui¸c˜ao dinˆamica e autom´atica de tarefas de configura¸c˜ao
Balanceamento de carga ao atribuir tarefas de configura¸c˜ao

44. 31/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Request Workers
Detectam as opera¸c˜oes realizadas na plataforma (mudan¸cas)
Enfileiram as mudan¸cas para serem avaliadas - Melhoria!

45. 31/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Request Workers
Detectam as opera¸c˜oes realizadas na plataforma (mudan¸cas)
Enfileiram as mudan¸cas para serem avaliadas - Melhoria!

46. 32/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Change Workers
Avaliam os interesses e as condi¸c˜oes predefinidas pelos
administradores para disparar Configurators
Enfileiram as configurator calls na Configurator Queue definida
pelo administrador - Melhoria!

47. 33/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Configurator Queues
Representam grupos de servidores de monitoramento que
compartilham alguma caracter´ıstica (e.g., solu¸c˜ao de
monitoramento, prop´osito) - Melhoria!

48. 34/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Configurator Workers
Consomem configurator calls da Configurator Queue se o
servidor de monitoramento tiver capacidade para executar a
tarefa (e.g., carga do servidor apropriada) - Melhoria!
Executam os Configurators
Enviam o status e sa´ıda da execu¸c˜ao para o REST Web service
para an´alise futura

49. 34/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Framework Core
Gatherers
Configurators
REST
WebService
...
Cloud Monitoring
... Monitoring
Slices
Cloud Platform
... Cloud
Slices
Requests
Queue
Request
Workers
Changes
Queue
Change
Worker
Change
Worker
Configurator
Workers
Change
Worker
Change
Worker
Change
Workers
Configurator
Queues
...
Configurator Workers
Consomem configurator calls da Configurator Queue se o
servidor de monitoramento tiver capacidade para executar a
tarefa (e.g., carga do servidor apropriada) - Melhoria!
Executam os Configurators
Enviam o status e sa´ıda da execu¸c˜ao para o REST Web service
para an´alise futura

50. 35/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Prot´otipo - FlexACMS
Flexible Automated Cloud Monitoring Slices

51. 36/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Comparativo dos tempos das Arquiteturas Inicial e Estendida
Avalia¸c˜ao - Comparativo dos tempos das Arquiteturas
Inicial e Estendida
Objetivo: avaliar qual ´e o impacto das melhorias no
desempenho do FlexACMS
Plataforma: OpenStack
Solu¸c˜oes de monitoramento: Nagios e MRTG
Cloud slices criados: de 1 at´e 10 cloud slices
Monitoring slices: de 1 at´e 10 monitoring slices com 2 ou 52
m´etricas
Workers: 10 Configurator Workers
Framework
Core,
Configurators,
Nagios, MRTG e
Workers
Openstack e
Gatherer
Switch 1 Gbps

52. 37/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Comparativo dos tempos das Arquiteturas Inicial e Estendida
Comparativo dos tempos das Arquiteturas Inicial e
Estendida
1 2 3 4 5 6 7 8 9 10
Cloud Slices criados
TempodeResposta(s)
020406080100120140
27.1 %
30.9 %
36.9 %
36.7 %
35.5 %
34.5 %
35.6 %
36.7 %
35.9 %
37.4 %
OpenStack
FlexACMS
(a) Inicial (2 m´etricas)
1 2 3 4 5 6 7 8 9 10
Cloud Slices criados
TempodeResposta(s)
020406080100120140
25.8 %
29.1 %
28.3 %
27.4 %
25.6 %
23.5 %
22.3 %
20.6 %
20.5 %
18.2 %
OpenStack
FlexACMS
(b) Estendida (2 m´etricas)
Figura: Comparativo das Arquiteturas Inicial e Estendida

53. 38/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Comparativo dos tempos das Arquiteturas Inicial e Estendida
Comparativo dos tempos das Arquiteturas Inicial e
Estendida
1 2 3 4 5 6 7 8 9 10
Cloud Slices criados
TempodeResposta(s)
020406080100120140
25.8 %
29.1 %
28.3 %
27.4 %
25.6 %
23.5 %
22.3 %
20.6 %
20.5 %
18.2 %
OpenStack
FlexACMS
(a) Estendida (2 m´etricas)
1 2 3 4 5 6 7 8 9 10
Cloud Slices criados
TempodeResposta(s)
020406080100120140
43.7 %
46.1 %
45.9 %
41.5 %
41.6 %
41.3 %
40.7 %
42.9 %
41.3 %
40.7 %
OpenStack
FlexACMS
(b) Estendida (52 m´etricas)
Figura: Comparativo Arquitetura Estendida - n´umero de m´etricas

54. 39/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Objetivo: avaliar a escalabilidade em rela¸c˜ao ao tempo de
resposta variando:
n´umero de cloud slices j´a armazenados (101
,102
,103
,104
)
n´umero de novos monitoring slices em uma rajada
(10,40,70,100)
n´umero de m´etricas por monitoring slice (5,25,50)
Plataforma: um Gatherer gera requisi¸c˜oes similares ao
Gatherer desenvolvido para o OpenStack
Solu¸c˜ao de monitoramento: Nagios
Workers: 10 Configurator Workers
Framework
Core,
Configurators e
Gatherer
Nagios,
Configurators e
Configurator
Workers
Switch 1 Gbps

55. 40/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
050150250350
log(Cloud Slices armazenados)
TempodeResposta(s)
Novos monitoring slices
10 40 70 100
1 2 3 4
Figura: Arquitetura Estendida - 5 m´etricas

56. 41/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
050150250350
log(Cloud Slices armazenados)
TempodeResposta(s)
Novos monitoring slices
10 40 70 100
1 2 3 4
Figura: Arquitetura Estendida - 25 m´etricas

57. 42/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
050150250350
log(Cloud Slices armazenados)
TempodeResposta(s)
Novos monitoring slices
10 40 70 100
1 2 3 4
Figura: Arquitetura Estendida - 50 m´etricas

58. 43/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo

59. 43/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo
Conclus˜oes
O(en
): R2
baixo e p-value alto
O(n2
): R2
baixo e p-value alto
O(n): R2
baixo e p-value alto

60. 43/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo
Conclus˜oes
O(en
): R2
baixo e p-value alto
O(n2
): R2
baixo e p-value alto
O(n): R2
baixo e p-value alto
Curvas acompanham o eixo-x

61. 43/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Tempo de resposta da Arquitetura Estendida
Escalabilidade
Qual a complexidade das curvas do gr´afico?
Regress˜oes lineares e n˜ao-lineares
O(n), O(n2
), O(en
)
Qualidade das regress˜oes
R2
: precis˜ao da aproxima¸c˜ao obtida pela regress˜ao
p-value: probabilidade do termo obtido pela regress˜ao ser nulo
Conclus˜oes
O(en
): R2
baixo e p-value alto
O(n2
): R2
baixo e p-value alto
O(n): R2
baixo e p-value alto
Curvas acompanham o eixo-x
N˜ao dependem de n =⇒ escal´avel!

62. 44/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Conclus˜oes e Trabalhos Futuros
FlexACMS (Arquitetura Estendida)
´E escal´avel
Tempo de resposta at´e 60% menor que a Arquitetura Inicial
Consumo de recursos computacionais pode ser ajustado
conforme o n´umero de trabalhadores
Sugerida como solu¸c˜ao para a cria¸c˜ao automatizada de Cloud
Monitoring Slices baseados em M´ultiplas Solu¸c˜oes de
Monitoramento

63. 45/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Conclus˜oes e Trabalhos Futuros
Outras conclus˜oes
A constru¸c˜ao automatizada de monitoring slices ´e vi´avel
Solu¸c˜oes de monitoramento podem oferecer integra¸c˜ao com
plataformas para reagir a cria¸c˜ao de cloud slices de acordo com
regras definidas
Plataformas podem oferecer mecanismos para configurar
monitoring slices a partir da cria¸c˜ao de cloud slices de acordo
com regras definidas

64. 46/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Conclus˜oes e Trabalhos Futuros
Trabalhos futuros
Concluir o ciclo de vida de um cloud slice (reconfigura¸c˜oes e
dele¸c˜oes)
Investigar a viabilidade do FlexACMS para PaaS e SaaS
Aprimorar mecanismos de balanceamento de carga na
distribui¸c˜ao de tarefas de configura¸c˜ao*

65. 47/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Publica¸c˜oes e Colabora¸c˜oes I
Carvalho, M., Esteves, R., Rodrigues, G., Granville, L. Z., and
Tarouco, L. M. R.
A cloud monitoring framework for self-configured monitoring slices based on
multiple tools.
In 9th International Conference on Network and Service Management 2013
(CNSM 2013) - Poster Session (2013).
Carvalho, M., Esteves, R., Rodrigues, G., Marquezan, C., Granville,
L. Z., and Tarouco, L. M. R.
Efficient configuration of monitoring slices for cloud platform administrators.
In 19th IEEE Symposium on Computers and Communications (IEEE ISCC 2014)
(2014).
Carvalho, M., and Granville, L. Z.
Incorporating virtualization awareness in service monitoring systems.
In Integrated Network Management (IM), 2011 IFIP/IEEE International
Symposium on (2011), pp. 297–304.

66. 48/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Publica¸c˜oes e Colabora¸c˜oes II
Wickboldt, J., Esteves, R., Carvalho, M., and Granville, L. Z.
Resource management in iaas cloud platforms made flexible through
programmability.
Computer Networks (2014).

67. 49/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Conclus˜oes e Trabalhos Futuros
Agradecimentos
Obrigado pela aten¸c˜ao!
mbcarvalho@inf.ufrgs.br

68. 50/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Implementa¸c˜ao
Framework Core
Framework Core

69. 51/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Implementa¸c˜ao
Gatherer
Gatherer OpenStackAPI

70. 52/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Implementa¸c˜ao
Configurator Worker
Configurator Worker

71. 53/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Implementa¸c˜ao
Configurators
Configurator Nagios

72. 54/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Implementa¸c˜ao
Configurators
Configurator MRTG

73. 55/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Avalia¸c˜ao
Tempo de resposta da Arquitetura Inicial
Tempo de resposta da Arquitetura Inicial
Tabela: M´edia aritm´etica dos parˆametros estat´ısticos das regress˜oes
lineares e n˜ao-lineares dos tempos de resposta da arquitetura inicial com
Gatherers simples e inteligente
Complex. Modelo
Simples Inteligente
R2 p-value R2 p-value
O(n) y = β0 + β1x 0,98770 0,00062 0,96685 0,00283
O(n2) y = β0 + β1x + β2x2 0,99895 0,04526 0,99875 0,01893
O(n3) y = β0 + β1x + β2x2 + β3x3 0,99968 0,46612 0,99928 0,44008
O(en) y = β0 + β1ex 0,97882 0,00207 0,98100 0,00138

74. 56/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Avalia¸c˜ao
Consumo de Processamento e Mem´oria da Arquitetura Inicial
Consumo de Processamento e Mem´oria da Arquitetura
Inicial
0 20 40 60 80 100 120
0510152025
Tempo (s)
UtilizaçãodeCPU(%)
Processamentodarequisição
Detecçãodemudanças
Execução da configuração
10.5 33.5
(a) Utiliza¸c˜ao de CPU
0 20 40 60 80 100 120
010203040
Tempo (s)
Utilizaçãodememória(KBytes)
Proc.darequisição
Detecçãodemudanças
Execução da configuração
10.5 33.5
(b) Utiliza¸c˜ao de Mem´oria
Figura: Utiliza¸c˜ao de CPU e mem´oria da arquitetura inicial

75. 57/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Avalia¸c˜ao
Tr´afego de gerˆencia para o Gatherer da OpenStack API
Tr´afego de gerˆencia para o Gatherer da OpenStack API
1 2 3 4 5 6 7 8 9 10
Cloud Slices criados
TráfegodeGerência(KBytes)
010203040
KBytes enviados
KBytes recebidos
Figura: Tr´afego de gerˆencia para o Gatherer da OpenStack API

76. 58/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Avalia¸c˜ao
Tempo de resposta dos Configurators para Nagios e MRTG
Tempo de resposta dos Configurators para Nagios e MRTG
Nagios Host
Nagios Service
MRTG
Tempo de Resposta (s)
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Figura: Tempo de resposta dos Configurators para Nagios e MRTG

77. 59/49
Um Framework para a Constru¸c˜ao Automatizada de Cloud Monitoring Slices Baseados em M´ultiplas Solu¸c˜oes de Monitoramento
Avalia¸c˜ao
Tempo de resposta dos Configurators para Nagios e MRTG
Tabela: M´edia aritm´etica dos parˆametros estat´ısticos das regress˜oes
lineares e n˜ao-lineares dos tempos de resposta da arquitetura estendida
para a constru¸c˜ao de monitoring slices com 5, 25 e 50 m´etricas
Complexidade
5 m´etricas 25 m´etricas 50 m´etricas
R2 p-value R2 p-value R2 p-value
O(n) 0,89516 0,05805 0,34215 0,52340 0,47356 0,38950
O(n2) 0,90408 0,52730 0,66355 0,43617 0,68765 0,65776
O(en) 0,89718 0,05690 0,34189 0,52575 0,47585 0,38825