O documento discute como implementar push no servidor usando Servlets 3 e AsyncContext. Isso permite escalar aplicações para milhares de clientes usando poucas threads, ao liberar a thread quando o processamento é assíncrono. O autor fornece exemplos de código para armazenar clientes em fila e enviar mensagens para eles sem bloquear, melhorando a capacidade do servidor.

1. Servlets 3 e o AJAX Paulo Silveira
paulo.silveira@caelum.com.br
PUSH (com demo!) @paulo_caelum
1

3. eu já sei fazer ajax! uso JQuery!
foco no servidor!

5. além do tradicional, o PUSH
ajax reverso ajax push
comet
streaming

6. clássico: ticker da bolsa

7. o que acontece com muitas atualizações?

8. muitos “pings/short poolings”

9. mantemos conexão aberta!

10. mantemos conexão aberta!
atualizações podem ser automáticas
quando PETR4 mudar

11. Como implementar o push no cliente?
Como implementar o push no servidor?

12. 1. Loop infinito #ftw (doGet)
private Queue<BlockingQueue<String>> clients =
new ConcurrentLinkedQueue<BlockingQueue<String>>();
protected void doGet(HttpServletRequest req,
HttpServletResponse response){
BlockingQueue<String> messages = new LinkedBlockingQueue<String>();
clients.add(messages);
while (true) {
String message = messages.take();
PrintWriter writer = response.getWriter();
writer.println(message);
writer.flush();
}
}

13. 1. Loop infinito (doPost)
for (BlockingQueue<String> queue : clients) {
queue.add(mensagem);
}

14. quais os problemas do loop infinito?

15. quais os problemas do loop infinito?
thread-per-request

16. quais os problemas do loop infinito?
thread-per-request
blocante

17. quais os problemas do loop infinito?
thread-per-request
blocante
aposta: quantos clientes no máximo?

18. 200

19. thread per connection
X
thread per request

20. thread per connection
X
thread per request
200 threads atendem quantos clientes?
o que acontece com o 201o?

21. Como deixar as outras threads (+200) em
espera?

22. 2001
java.nio: IO não blocante
tecnologia já pré-histórica

23. selectors
1 thread cuida de n channels

24. Http11NioProtocol
thread per request

25. tomcat 7 e maxthreads = 3000
Apostam em quanto?

26. Como implementar o push no servidor?
Servlets 3 permite liberar a thread

27. 2. AsyncContext (get)
private Queue<AsyncContext> clients = new
ConcurrentLinkedQueue<AsyncContext>();
protected void doGet(HttpServletRequest req,
HttpServletResponse response){
AsyncContext ctx = req.startAsync();
ctx.setTimeout(3000000);
clients.add(ctx);
// THREAD LIBERADA
}

28. 2. AsyncContext (post)
private BlockingQueue<String> messages = new
LinkedBlockingQueue<String>();
protected void doPost(HttpServletRequest req,
HttpServletResponse arg1) {
messages.add(String.format("novo valor PETR4: %d %n",
contador.incrementAndGet()));
// fazer o foreach aqui?

29. 2. AsyncContext (o event loop)
while (true) {
String message = messages.take();
for (AsyncContext ctx : clients) {
PrintWriter writer = ctx.getResponse().getWriter();
writer.println(message);
writer.flush();
}
}
quem roda essa loop?

30. 2. AsyncContext (o event loop)
public void init() throws ServletException {
Executors.newSingleThreadExecutor().execute(new Runnable() {
// nosso reactor
public void run() {
while (true) {
// loop aqui! cuidado com blocante
}
}
});
}

31. AsyncContext + Jetty8 B
aposta em quanto?

32. Tomcat 6+

33. Jetty 6+ continuations

34. Comparativo
Síncrono ~200-1263
Assíncrono Tomcat 1524
Assíncrono Jetty >5200?-20000

35. Conclusão
o assíncrono é fundamental
para a escalabilidade de um
sistema
há um preço

36. mas isso não vai te salvar do IE6
Conclusão
o assíncrono é fundamental
para a escalabilidade de um
sistema
há um preço

37. AsyncContext
https://github.com/peas/asyncservlets-test

38. AsyncContext
não blocante
https://github.com/peas/asyncservlets-test

39. AsyncContext
não blocante
mínimo de threads
https://github.com/peas/asyncservlets-test

40. AsyncContext
não blocante
mínimo de threads
modelo um pouco mais difícil
https://github.com/peas/asyncservlets-test

41. AsyncContext
não blocante
mínimo de threads
modelo um pouco mais difícil
único responsável pela palestra
https://github.com/peas/asyncservlets-test

42. Visite:
www.GUJ.com.br
www.tectura.com.br
www.agendatech.com.br
www.ProgramadorPoliglota.com.br
twitter: @paulo_caelum
Obrigado!