Slide del talk del 24/11/2021 presso il Distretto delle Tecnologie Digitali di Udine a cura di Vincenzo Carlino e Steve Maraspin.

1. Vincenzo Carlino <v.carlino@mvlabs.it>
Steve Maraspin <s.maraspin@mvlabs.it>
DITEDI - Udine, Italy - 24/11/2021
Architetture a Microservizi
con Kubernetes

2. VINCENZO CARLINO

3. STEVE MARASPIN

4. We Work @

10. Microservizi su K8S dal 2017

11. Architettura tipica
16
E-Commerce
Internet

12. Com’è fatta?
17
E-commerce
app

13. Com’è fatta?
18
E-commerce
app:
gestione clienti, ordini,
prodotti

14. 19

15. Architettura tipica
20
Internet
Applicazione
e-commerce DB
Come si
gestisce?

16. Scaliamo...
21
Applicazione
e-commerce
Applicazione
e-commerce
Load
balancer
DB

17. Scaliamo...
22
Applicazione
e-commerce
Applicazione
e-commerce
Load
balancer
DB

18. Scaliamo...
23
Applicazione
e-commerce
Applicazione
e-commerce
Sempre la stessa
applicazione…
• identica su tutti
nodi
• comprende tutte
le funzionalità
del sistema

19. The scale cube
24
https://cserkaran.medium.com/the-scale-cube-d84ca0c2e900
https://microservices.io/articles/scalecube.html

20. The scale cube
X-axis scaling
N istanze della stessa applicazione con davanti un
load balancer
Z-axis scaling
N istanze della stessa applicazione, ciascuna
responsabile di un subset dei dati
Y-axis scaling
Decomposizione dell’applicazione in servizi, ciascuno
dei quali implementa una funzionalità
25

21. Microservices are self-contained
software components that are
no more than 100 lines of code
27

22. Microservices are self-contained
software components that are
no more than 100 lines of code
28

23. A microservice is an independent
software component that takes
no more than one iteration
to build and deploy
29

24. A microservice is an independent
software component that takes
no more than one iteration
to build and deploy
30

25. The essence of what a microservice
architecture is about is not really technical
or infrastructure related.
It's all about correctly identifying service
boundaries, service responsibilities, their
APIs, their collaborations
31
Chris Richardson

26. The essence of what a microservice
architecture is about is not really technical
or infrastructure related.
It's all about correctly identifying service
boundaries, service responsibilities, their
APIs, their collaborations
32
Chris Richardson

27. The essence of what a microservice
architecture is about is not really technical
or infrastructure related.
It's all about correctly identifying service
boundaries, service responsibilities, their
APIs, their collaborations
33
Chris Richardson

28. Com’è fatta?
34
E-commerce
app:
gestione clienti, ordini
prodotti

29. 35
E-commerce
gestione
clienti,
ordini,
prodotti
E-Commerce
ordini
clienti
prodotti
Microservizi

30. 36
E-commerce
gestione
clienti,
ordini,
prodotti
E-Commerce
ordini
clienti
prodotti
Microservizi
❌

31. 37
E-Commerce
ordini
clienti
prodotti
Non questo...

32. 38
Clienti
Ordini
Prodotti
app
app
app
Ma questo:

33. 39

34. 40
Clienti
Ordini
Prodotti
app
app
app
Microservizi

35. Possibile Soluzione (Ordini)

36. 42

37. 43
Clienti
Ordini
Prodotti
Magazzino
app
app
app
app
Microservizi

38. 44
Clienti
Ordini
Prodotti
Magazzino
app
app
app
app
Microservizi
❌

39. 45
Clienti
Ordini
Prodotti
Magazzino
app
app
app
app
Microservizi

40. Models Around Business Domain
Clienti
app
Client
ClientOutput
ClientInput
BUS
NewClientEvent

41. Co-Exist Endpoints
Clienti
Ordini
app
app
v1 v2

42. Consumer-Driven Contracts
Clienti Ordini
app
app
Aspettative
“Is Everybody OK?”

43. Isolate Failure
Clienti
Ordini
Prodotti
Magazzino
Ecommerce

44. Isolate Failure
Clienti
Ordini
Prodotti
Magazzino
Ecommerce

45. Isolate Failure
Clienti
Ordini
Prodotti
Magazzino
Ecommerce
CRASH

46. Isolate Failure
Clienti
Ordini
Prodotti
Magazzino
Ecommerce
Circuit Breaker

47. 53
Comunicazione Asincrona VS Sincrona

48. Modalità di comunicazione
54
one-to-one one-to-many
synchronous request / response -
asynchronous
asynchronous
request / response
one-way notifications
publish / subscribe
publish / async
responses

49. 55
Comunicazione sincrona
[...] is a style of communication where
the caller waits until a response is
available
Steve ha parlato di differenze tra approcci sincroni e paralleli in un talk del 2015.
Lo trovate qui: https://www.youtube.com/watch?v=dk-D3g2MD2U

50. 56
Sincrona, Decentralizzata
https://medium.com/inspiredbrilliance/patterns-for-microservices-sync-vs-async-5de3be11eb96

51. 57
Orchestrata, sincrona e sequenziale

52. Orchestrata, sincrona e parallela
58

53. 59
Comunicazione Asincrona
[...] removes the need to wait for a
response thereby decoupling the
execution of two or more services

54. 60
Eventi asincroni “coreografato”

55. 61
Orchestrata, asincrona e sequenziale

56. Comunicazione Sincrona + Asincrona
62
Sincrona
Per le query (in lettura), che hanno bisogno
di risposta immediata
Asincrona
Per i comandi (ovvero le richieste di
esecuzione di cambio stato del sistema)

57. Soluzione a cui si arriva...
63
https://medium.com/design-microservices-architecture-with-patterns/microservices-asynchronous-messa
ge-based-communication-6643bee06123

58. Sincrono + Asincrono
64
Microservice Patterns - Chris Richardson

59. Microservizi VS Monoliti
✅ Manutenzione / Test
✅ Disaccopiamento
✅ Deploy indipendenti
✅ Less Responsability
✅ Gestiti da team ridotti
✅ Scalabilità
✅ Facile evolvere stack
tecnologico
❌ Manutenzione/Test
❌ Complessità
❌ Hard deployment
❌ Scalabilità
❌ Difficile evolvere stack
tecnologico

60. Utilizziamo i microservizi?
• usare microservizi non è l’obiettivo
• esistono le precondizioni per introdurli?
• abbiamo test automatici?
• abbiamo deployment automatici?
• siamo pronti a livello infrastrutturale?
• Dont’t try to fly before you can walk
67

61. Altra prospettiva sull’argomento...
69
Ecommerce
Sistema Operativo
Hardware
Runtime Environment / Librerie

62. Applicazione “Old School”
70
App
App
Sistema Operativo
Hardware
Runtime Environment / Librerie

63. Applicazione “Old School”
71
App
App
App
Sistema Operativo
Hardware
Runtime Environment / Librerie

64. Necessità di altro environment
72
App
App App
Sistema Operativo
Hardware
Runtime Environment / Librerie
Sistema Operativo
Hardware
Runtime Environment / Librerie

65. L’avvento delle VM...
73
Hypervisor
RE/Libs
OS
RE/Libs
OS
Sistema Operativo
Hardware
Runtime Environment / Librerie
Sistema Operativo
Hardware
App
App
App
App
App App

66. Macchine Virtuali
74
Hypervisor
RE/Libs
OS
RE/Libs
OS
Sistema Operativo
Hardware
App
App App

67. Abbondanza di Sistemi Operativi
75
Hypervisor
RE/Libs
OS
RE/Libs
OS
Sistema Operativo
Hardware
App
App App

68. L’avvento dei Container...
76
App
App App
App
App App
Hypervisor
RE/Libs
OS
RE/Libs
OS
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware

69. Concetti non totalmente nuovi ...
77
Fonte: https://www.opensourceforu.com/2018/05/microservices-with-docker-and-kubernetes-an-overview/

70. Ritorniamo al 2001...
78
Sito Web
Internet

71. Richiesta di scalabilità
79
Applicazione
e-commerce
Applicazione
e-commerce
Load
balancer
DB

72. Scalabilità
Wikipedia:
Scalability is the property of a system to handle a growing amount of
work by adding resources to the system
https://en.wikipedia.org/wiki/Scalability

73. Scalabilità
Wikipedia:
Scalability is the property of a system to handle a growing amount of
work by adding resources to the system
Steve:
Scalability is the property of a system to handle a growing amount
of work by adding a number of resources to the system which is
linearly proportional to the increased amount of requested work
https://en.wikipedia.org/wiki/Scalability

74. Scalabilità nel 2001 (in pratica)
82
Sistema Operativo
Hardware
Runtime Environment / Librerie
Sistema Operativo
Hardware
Runtime Environment / Librerie
Ecommerce Ecommerce
Load Balancer

75. Con i container...
83
Load Balancer
App
App App
Container Runtime
Sistema Operativo
Hardware
App
App App
Container Runtime
Sistema Operativo
Hardware

76. Continuando di questo passo...
84
Load Balancer
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware

77. Continuando di questo passo...
85
Load Balancer
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware

78. Continuando di questo passo...
86
Load Balancer
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
?

79. Welcome Kubernetes (K8S)
87
Load Balancer
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator

80. Architettura “grossolana” di K8S
88
https://techradar.softwareag.com/technology/kubernetes-k8s/

81. Concetto di POD
89
Load Balancer
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator

82. Struttura Applicazioni K8S
90

83. 91
Namespace: ditedi

84. Namespace
92
ditedi

85. Kubernetes Gestito
93

86. Arriviamo a...
94
App App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

87. Quindi, ricordando...
96
Sistema Operativo
Hardware
Runtime Environment /
Librerie
Sistema Operativo
Hardware
Runtime Environment /
Librerie
Ecommerce Ecommerce
Load Balancer
Sistema Operativo
Hardware
Runtime Environment /
Librerie
Sistema Operativo
Hardware
Runtime Environment /
Librerie
Altra App Altra App
Load Balancer

88. Arriviamo a...
97
App App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

89. Arriviamo a...
98
App App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer
2 nodi anziché 4!

90. “SPARE” CONDIVISO

91. Vantaggio di K8S #1
Ottimizzazione nell’utilizzo delle risorse

93. Container Ingordi
102
App
App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

94. Fanno terminare gli altri :(
103
App
App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

95. Pericolo di K8S #1
Sovrautilizzo delle risorse

96. I SOLITI SOSPETTI

97. Resource request & limits

100. Resource Quotas
109

101. Admission WebHooks
110

102. Rimedio al Pericolo #1
Richieste & Limiti
Resource Quotas
WebHooks

103. Semplicità di passaggio...
112
App App
App App
App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

104. ...a qui
113
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

105. 114
Clienti
Ordini
Prodotti
Magazzino
app
app
app
app
Microservizi

106. Pericolo di Kubernetes #2
Difficoltà di gestione delle applicazioni

107. La nostra soluzione...

108. Templating

109. Amici cari...

110. GitOps approach

111. Rimedio al Pericolo #2
Gestire in modo strutturato e ordinato il
software

112. Rimedio al Pericolo #2
Gestire in modo strutturato e ordinato il
software

113. A proposito di software ...
122
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

114. Gestione degli aggiornamenti?
123
App
App App App
App App
App
App App
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

115. “Comandano” loro
124

116. Pericolo di Kubernetes #3
Essere impreparati ad eseguire un
aggiornamento

117. Come prepararsi?
126
Production Cluster Staging Cluster

118. Come prepararsi?
127
Production Cluster Staging Cluster
Aggiornamenti prima qui

119. Come procedere?
128
VS

121. Lo Storage su Kubernetes
130

122. Consigli
131
• Storage Esterno
• NON ricorrere a NFS
– lentezza
– non scala (prestazioni, conf)
– Locking
• Ricorrere a Object Storage
gestione a livello applicativo - ragionando in modo cloud native

123. Consigli
132
• Storage Esterno
• NON ricorrere a NFS
– lentezza
– non scala (prestazioni, conf)
– Locking
• Ricorrere a Object Storage
gestione a livello applicativo - ragionando in modo cloud native
Non sono novità!

124. Consigli
133
• Storage Esterno
• NON ricorrere a NFS
– lentezza
– non scala (prestazioni, conf)
– Locking
• Ricorrere a Object Storage
gestione a livello applicativo - ragionando in modo cloud native

125. E per Kubernetes on Premises?
134

126. E per Kubernetes on Premises?
135

127. Rimedio al pericolo #3
Avere tutto versionato
Dividere i cluster produzione / testing
Tentare aggiornamento sugli ultimi
Esternalizzare lo storage

128. FELICI E CONTENTI

129. O QUASI...

131. Software ...
140
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer
Clienti
Ordini
Prodotti
Magazzino
app
app
app
app
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Ap
p
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Container Runtime
Sistema Operativo
Hardware
Orchestrator
Load Balancer

132. Pericolo #4
Difficoltà di diagnosi

133. Tracing

134. OBSERVABILITY

135. Observability Building Blocks
- Metriche
- Logging
- Tracing

136. Soluzione al Pericolo #4
Appositi tool

137. Filosofia DevOps

138. Any organization that designs a system
(defined broadly) will produce a design
whose structure is a copy of the
organization's communication structure
155
Melvin E. Conway

139. Thank you

140. References
IN USCITA

141. jobs@mvlabs.it

142. Partecipa ai nostri eventi divulgativi
Iscriviti alla Mailing List
Al massimo 6 invii l’anno
http://eepurl.com/s3Kab
@mvlabsit
www.facebook.com/mvlabs