O documento discute a evolução das tecnologias da web ao longo do tempo e as limitações das tecnologias atuais para suportar alta escalabilidade e concorrência. Propõe o uso de Node.js, que usa I/O não bloqueante e event loop para suportar milhares de usuários simultâneos de forma eficiente com poucos recursos.

1. A performance que eu sempre quis ter
Emerson Macedo
@emerleite
http://codificando.com
http://visaoagil.wordpress.com/author/emerleite/

2. #whoami

4. 2000

5. 360 milhões de
usuários de internet
em todo mundo

7. 9,8 milhões de usuários

8. 9,8 milhões de usuários
4,8 milhões são ativos

9. Com poucos usuários
qualquer tecnologia
funciona

11. 2010

12. ~ 2 bilhões de
usuários de internet
em todo mundo

14. 68 milhões de usuários

15. 68 milhões de usuários
37 milhões são ativos

17. Com muitos usuários
nem toda tecnologia
funciona

19. Tecnologias
atuais

25. Todas essas tecnologias
tem algo em comum

26. PHP 1995

27. PHP 1995
Java EE 1998

28. PHP 1995
Java EE 1998
ASP.Net 2002

29. PHP 1995
Java EE 1998
ASP.Net 2002
Ruby on Rails 2005

30. PHP 1995
Java EE 1998
ASP.Net 2002
Ruby on Rails 2005
Django 2005

31. Por que então mais
uma tecnologia ?

32. Usuários de Internet no Mundo (em milhões)
2.000 milhões
2000
1500
1000
500 360 milhões
0
2000 2010

33. Usuários de Internet no Brasil (em milhões)
70 milhões
70
52,5
35
17,5
10 milhões
0
2000 2010

34. Mas já escalamos muito
bem nossos sites

35. Estrutura física de
servidores para escalar

36. Escalando na vertical

37. Escalando na vertical

38. Escalando na horizontal

39. Escalando na horizontal

40. Escalando na horizontal

41. Escalando na horizontal

43. Escalando DB na horizontal
re
ad
ad
re
write
write write

44. Escalando DB na horizontal
Shard Shard Shard Shard Shard Shard
Database Database Database Database Database Database

46. Arquitetura pra fazer
o software escalar

47. Pattern para atender
muitos requests

48. Pattern para atender
muitos requests
Finalize a requisição o
mais rápido possível

49. HTTP GET

55. HTTP POST

56. Pattern para atender
muitos requests
Finalize a requisição o
mais rápido possível

62. Por que então mais
uma tecnologia ?

63. 2014

64. ~ 70% dos adultos
serão usuários
regulares de
redes sociais

66. Como manter
conectados 10, 20 ou
30 mil usuários
simultâneos ?

67. Escalando na horizontal

68. Escalando na horizontal

71. Evented, non-blocking I/O
Google V8 Engine

72. Qual é o problema
das tecnologias atuais ?

73. Como manter
conectados 10, 20 ou
30 mil usuários
simultâneos ?

74. Nosso código costuma
ser escrito assim

75. Nosso código costuma
ser escrito assim
O que o software está fazendo
enquanto a querie executa ?

76. Na maioria dos casos
está travado esperando
a resposta

77. Rails ou Django
HTTPD Database

78. Rails ou Django
HTTPD Database

79. Rails ou Django
HTTPD Database

80. Rails ou Django
RUNTIME
PROCESS
HTTPD Database

81. Rails ou Django
RUNTIME
BLOCK
PROCESS
HTTPD Database

82. Rails ou Django
RUNTIME
BLOCK
PROCESS
RUNTIME
BLOCK
PROCESS
HTTPD Database
RUNTIME
BLOCK
PROCESS
RUNTIME
PROCESS BLOCK

85. Java
Servlet Container
HTTPD Servlet Database

86. Java
Servlet Container
HTTPD Servlet Database

87. Java
Servlet Container
HTTPD Servlet Database

88. Java
Servlet Container
Thread
HTTPD Servlet Database

89. Java
Servlet Container
Thread BLOCK
HTTPD Servlet Database

90. Java
Servlet Container
Thread BLOCK
Thread BLOCK
Thread BLOCK
HTTPD Servlet Database
Thread BLOCK
Thread BLOCK
Thread BLOCK
Thread BLOCK

91. Apenas um processo
abrindo uma thread
para cada request

94. Produtividade do
programador mais que
performance da
tecnologia

95. Apenas um processo
abrindo uma thread
para cada request

96. Parece bom mas ...

97. Como manter
conectados 10, 20 ou
30 mil usuários
simultâneos ?

98. Como manter
conectados 10, 20 ou
30 mil usuários
simultâneos ?
30 mil threads ?

99. concurrency × reqs/sec
Apache vs NGINX
concurrency × reqs/sec
http://blog.webfaction.com/a-little-holiday-present
http://blog.webfaction.com/a-little-holiday-present

100. concurrency × reqs/sec
Apache vs NGINX
concurrency × memory
http://blog.webfaction.com/a-little-holiday-present
http://blog.webfaction.com/a-little-holiday-present

101. Apache cria uma
thread por request

102. Troca de contexto
entre theads tem
um custo

103. Cada OS Thread
cria uma pilha de
execução nova

104. Não devemos usar
uma thread por request
quando precisamos
suportar alta
concorrência

105. Como manter
conectados 10, 20 ou
30 mil usuários
simultâneos ?

108. Pattern para atender
muitos requests
Finalize a requisição o
mais rápido possível

109. Pattern para atender
alta concorrência

110. Pattern para atender
alta concorrência
Não crie threads

111. Pattern para atender
alta concorrência
Não crie threads
Use um Event Loop

112. Produtividade do
programador mais que
performance da
tecnologia

113. Performance
!=
Escalabilidade

114. Performance
!=
Escalabilidade
mas ...

115. Uma performance
melhor ajuda a escalar
com menos recursos

118. Precisamos fazer I/O
de outra maneira

119. Latência de I/O

120. Latência de I/O
L1 3 ciclos

121. Latência de I/O
L1 3 ciclos
L2 14 ciclos

122. Latência de I/O
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos

123. Latência de I/O
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos
Disco 41.000.000 ciclos

124. Latência de I/O
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos
Disco 41.000.000 ciclos
Rede 240.000.000 ciclos

125. Latência de I/O
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos
Disco 41.000.000 ciclos
Rede 240.000.000 ciclos

126. I/O não bloqueante

127. I/O não bloqueante
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos

128. I/O não bloqueante
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos
I/O bloqueante

129. I/O não bloqueante
L1 3 ciclos
L2 14 ciclos
RAM 250 ciclos
I/O bloqueante
Disco 41.000.000 ciclos
Rede 240.000.000 ciclos

130. Infraestrutura não bloqueante, puramente
baseada em eventos, para desenvolver
software de alta concorrência

131. Servidor TCP simples
em NodeJS
O código acima faz com que a execução
retorne imediatamente ao event loop

132. Por que já não
faziamos dessa forma ?

134. POSIX Assync I/O não
suportado por todos
os S.Os

135. POSIX Assync I/O não
suportado por todos
os S.Os
libmysql_client não
permite query async

136. Filosofia do NodeJS

137. Filosofia do NodeJS
Todo I/O deveria ser feito desta forma

138. Para qualquer
operação que acesse o
disco ou a rede deve
existir um callback

139. Arquitetura
Javascript Node standard library
C Node Bindings
thread event
pool loop
V8
(libeio) (libev)

140. Pilha de execução
ev_loop()
I/O em disco (bloqueante)

141. Pilha de execução
socket_readdable(1)
ev_loop()
I/O em disco (bloqueante)

142. Pilha de execução
http_parse(1)
socket_readdable(1)
ev_loop()
I/O em disco (bloqueante)

143. Pilha de execução
load(“index.html”)
http_parse(1)
socket_readdable(1)
ev_loop()
I/O em disco (bloqueante)

144. Pilha de execução
http_parse(1)
socket_readdable(1)
ev_loop()
I/O em disco (bloqueante)

145. Pilha de execução
socket_readdable(1)
ev_loop()
I/O em disco (bloqueante)

146. Pilha de execução
ev_loop()
I/O em disco (bloqueante)

147. Pilha de execução
ev_loop()
I/O em RAM (não bloqueante)

148. Pilha de execução
socket_readdable(2)
ev_loop()
I/O em RAM (não bloqueante)

149. Pilha de execução
http_parse(2)
socket_readdable(2)
ev_loop()
I/O em RAM (não bloqueante)

150. Pilha de execução
http_respond(2)
http_parse(2)
socket_readdable(2)
ev_loop()
I/O em RAM (não bloqueante)

151. Pilha de execução
http_parse(2)
socket_readdable(2)
ev_loop()
I/O em RAM (não bloqueante)

152. Pilha de execução
socket_readdable(2)
ev_loop()
I/O em RAM (não bloqueante)

153. Pilha de execução
ev_loop()
I/O em RAM (não bloqueante)

154. Pilha de execução
ev_loop()
Arquivo carregou do disco

155. Pilha de execução
file_loaded()
ev_loop()
Arquivo carregou do disco

156. Pilha de execução
http_respond(1)
file_loaded()
ev_loop()
Arquivo carregou do disco

157. Pilha de execução
file_loaded()
ev_loop()
Arquivo carregou do disco

158. Pilha de execução
ev_loop()
Arquivo carregou do disco

159. Arquitetura Web

160. Arquitetura Web
Nginx

161. Arquitetura Web
Nginx
Ruby Ruby Ruby Ruby Ruby
or or or or or
Python Python Python Python Python

162. Arquitetura Web
Nginx
Ruby Ruby Ruby Ruby Ruby
or or or or or NodeJS
Python Python Python Python Python

163. Arquitetura Web
Nginx

164. Arquitetura Web
Nginx
NodeJS

165. Arquitetura Web
NodeJS

166. Arquitetura Web
NodeJS
Quando NodeJS estiver bem maduro, a
idéia de Ryan é que ele seja a porta de
entrada. Será ?

167. Por que Javascript ?

170. Não é burocrático,
assim como Ruby ou
Python

171. Não é burocrático,
assim como Ruby ou
Python
Especialistas
Javascript Client-Side
já pensam assíncrono

172. Instalação

173. Instalação
http://nodejs.org/#download

174. Instalação
http://nodejs.org/#download
$ ./configure
$ make
$ make install

175. Desenvolvendo
aplicações web

177. Express JS
http://expressjs.com/

178. Express JS
http://expressjs.com/
Sinatra ???

179. Express JS
#múltiplos ambientes

180. Express JS
#markup

181. Express JS
#markup

182. Express JS
#stylesheet

183. Express JS
#comportamento

184. Express JS
#comportamento

185. Database

186. Database
http://wiki.github.com/ry/node/modules#database

187. Database
http://wiki.github.com/ry/node/modules#database
MongoDB
CouchDB
MySQL Assíncrono
Sqlite
Redis
Postgres

188. Test driven development
#vows - http://vowsjs.org/

189. Test driven development

190. Test driven development
#http://github.com/visionmedia/expresso/

192. Node package manager
http://github.com/isaacs/npm

193. Node package manager
http://github.com/isaacs/npm
#instalação
$ curl http://npmjs.org/install.sh | sh

194. Node package manager
http://github.com/isaacs/npm
#instalação
$ curl http://npmjs.org/install.sh | sh
#utilização
$ npm install pacote

195. Node package manager
http://github.com/isaacs/npm
#instalação
$ curl http://npmjs.org/install.sh | sh
#utilização
$ npm install pacote
#desinstalação
$ npm uninstall npm

196. Node package manager
http://github.com/isaacs/npm

197. Node package manager
http://github.com/isaacs/npm
#stable - expressjs
$ npm install express

198. Node package manager
http://github.com/isaacs/npm
#stable - expressjs
$ npm install express
#unstable - hamljs
$ npm install hamljs@latest

199. Node package manager
http://github.com/isaacs/npm
#stable - expressjs
$ npm install express
#unstable - hamljs
$ npm install hamljs@latest
#versão - vows
$ npm install vows@0.4.6

200. Node package manager

201. Node package manager
http://github.com/isaacs/npm

202. Node package manager
http://github.com/isaacs/npm
#listando
$ npm list

203. Node package manager
http://github.com/isaacs/npm
#listando
$ npm list
#instalado
$ npm list @installed

204. Node package manager
http://github.com/isaacs/npm
#listando
$ npm list
#instalado
$ npm list @installed
#autor
$ npm list =ry

205. Node package manager

206. Node package manager
http://github.com/isaacs/npm

207. Node package manager
http://github.com/isaacs/npm
#atualizando
$ npm update

208. Node package manager
http://github.com/isaacs/npm
#atualizando
$ npm update
#porpacote
$ npm update pacote

209. Node package manager
http://github.com/isaacs/npm
#atualizando
$ npm update
#porpacote
$ npm update pacote
#ondefica
~/.node_libraries

210. Deployment
em produção

211. Spark + Nginx
http://github.com/senchalabs/spark

212. Spark + Nginx
http://github.com/senchalabs/spark
#instalação
$ npm install spark@latest

213. Spark + Nginx
http://github.com/senchalabs/spark
#instalação
$ npm install spark@latest
#utilização
$ spark -p [port] -n [processes]

214. Spark + Nginx

215. Spark + Nginx
#config.js

216. Spark + Nginx
#config.js
#nginx

218. Oportunidades

219. Upload de arquivos

220. Upload de arquivos
Streaming de vídeo

221. Upload de arquivos
Real-time
web applications
Streaming de vídeo

223. Alternativas

227. Status atual

228. Status atual
Versão 0.1.103

229. Status atual
Versão 0.1.103
Javascript ~ 6000 linhas

230. Status atual
Versão 0.1.103
Javascript ~ 6000 linhas
C++ ~ 11000 linhas

231. Status atual
Versão 0.1.103
Javascript ~ 6000 linhas
C++ ~ 11000 linhas
Mailin list ~ 1200 pessoas

232. Status atual
Versão 0.1.103
Javascript ~ 6000 linhas
C++ ~ 11000 linhas
Mailin list ~ 1200 pessoas
Contribuidores ~ 70 pessoas

233. Conclusão

234. I/O não deve ser feito
da forma que fazemos
hoje em dia

235. Muito promissor

236. Muito promissor
Podemos usar já !!!

237. Produtividade do
programador mais que
performance da
tecnologia

240. Obrigado !!!
Emerson Macedo
@emerleite
http://codificando.com

241. Referências
http://www.internetworldstats.com/emarketing.htm
http://en.wikipedia.org/wiki/Event_loop
http://lse.sourceforge.net/io/aio.html
http://code.google.com/p/v8/
http://opengroup.org/onlinepubs/007908775/xsh/select.html
http://en.wikipedia.org/wiki/Thread_pool_pattern
http://www.commonjs.org/specs/modules/1.0/
http://en.wikipedia.org/wiki/File_descriptor