1. Funcionamento e otimização da
Garbage Collection na Oracle
Hotspot JVM
Serge Gebhardt – @sergegebhardt – http://sgeb.me
Adriano Bonat – @tanob
TDC 2013, Porto Alegre

2. Quem já teve problemas de performance
resolvidos com a otimização do GC?

3. Exemplos de problemas de GC

4. Exemplos de problemas de GC
Tempo de resposta aumenta com tempo

5. Exemplos de problemas de GC
GC lento demais: aplicação pausada

6. Exemplos de problemas de GC
Pode ser relacionado ao GC,
mas não necessariamente

7. Objetivos do GC
● reduzir Latência (latency)
○ exemplo 1: tempo de resposta
● aumentar Vazão (throughput)
○ exemplo 2: gastar o menor tempo possivel no GC
● reduzir Footprint
○ exemplo 3: a memória não é infinita

8. Gerência de memória explícita
char *buffer = (char *) malloc(1024 * sizeof
(char));
…
free(buffer);
Suscetível a esses problemas:
● Ponteiro inválido (dangling pointer)
● Vazamento de memória (memory leak)
● Controle manual de desalocação

9. Gerência de memória automática
Responsabilidades do garbage collector (GC):
● alocar memória
● manter objetos referenciados na memória
● desalocar memória de objetos que não são
mais referenciados
● tornar a memória desalocada disponível
para próxima alocação

10. Características do GC Automático
Serial
Parallel

11. Características do GC Automático
Stop-The-World (serial)
Concurrent
Stop-The-World (parallel)
Concurrent

12. Características do GC Automático
● compacting vs non-compacting
Inicio
Compacting
Non-compacting

13. Conceito de Gerações
A maioria das aplicações têm:
● Objetos de vida curta (efêmeros)
● Raras referências de objetos antigos para
novos objetos
⇒ Separar os objetos em duas gerações:
● Young Generation
● Old Generation

14. Conceito de Gerações

15. Tipos de GC na JVM Oracle
1.
2.
3.
4.
5.
Serial Collector
Parallel Collector
Parallel Compacting Collector
Concurrent Mark-Sweep (CMS) Collector
Garbage First (G1) a partir do Oracle JDK 7

16. -XX:+UseSerialGC
1. Serial Collector
As duas geracões (young e old):
● Serial (usa só um core)
● Stop-The-World (a aplicação é
pausada)

17. -XX:+UseSerialGC
1. Serial Collector - Young Gen

18. -XX:+UseSerialGC
1. Serial Collector - Young Gen

19. -XX:+UseSerialGC
1. Serial Collector - Old Gen
“Mark-Sweep-Compact”

20. -XX:+UseSerialGC
1. Serial Collector
Em geral usado em modo “client”
quando:
● não tem multiplos cores / CPUs
● com pouca memória
● pode ter pausas de alguns
minutos no worst-case

21. -XX:+UseParallelGC
2. Parallel Collector - Young Gen
● Em paralelo (usa múltiplos
cores / CPUs)
● Stop-The-World (a aplicação é
pausada)
Mesma estratégia do que no
Serial Collector, mas em
paralelo

22. -XX:+UseParallelGC
2. Parallel Collector - Old Gen
● Serial (usa só um core)
● Stop-The-World (a aplicação é
pausada)
Mesma estratégia do que no
Serial Collector

23. -XX:+UseParallelGC
2. Parallel Collector
Usado quando:
● tem múltiplos cores / CPUs
● pode ter pausas de alguns
minutos no worst-case
Exemplos: cálculos cientificos,
billing, batch processing
Em geral é melhor usar o
Parallel Compacting Collector
(próximo slide)
Young Gen
Old Gen

24. -XX:+UseParallelOldGC
3. Parallel Compacting Collector
Young Gen:
Parallel (mesma
estratégia do que no
Parallel Collector)
Old Gen:
Parallel
Young Gen
Old Gen
Os dois são Stop-TheWorld

25. -XX:+UseParallelOldGC
3. Parallel Compacting Collector
Usado quando:
● tem múltiplos cores / CPUs
● pode ter pausas de alguns segundos no worst-case
● eventualmente vai substituir o Parallel Collector
Não usa quando nenhum proceso pode pausar a máquina
(por exemplo SunRays). Neste caso pode limitar o número
de CPUs usado pelo GC: -XX:ParallelGCThreads=n

26. -XX:+UseConcMarkSweepGC
4. Concurrent Mark-Sweep (CMS) Collector
Young Gen:
Parallel e Stop-The-World
(mesma estratégia do que
no Parallel Collector)
Young Gen
Old Gen
Old Gen:
Parallel e Concurrent (ao
mesmo tempo do que a
aplicação usando
múltiplos cores / CPUs)

27. -XX:+UseConcMarkSweepGC
4. Concurrent Mark-Sweep (CMS) Collector
● Opção para ativar o
Concurrent Mark
incremental:
-XX:+CMSIncrementalMode
● Dá mais tempo de
processamento para a
aplicação quando tem
poucos cores / CPUs (~1
ou 2)
Old Gen

28. -XX:+UseConcMarkSweepGC
4. Concurrent Mark-Sweep (CMS) Collector
● Não compactador ⇒ fragmentação do Old Gen
Old Gen
● Fragmentação do Old Gen pode resultar em
pausas longas no GC do Young Gen
● Stop-The-World quando falta memória na Old
Gen

29. -XX:+UseConcMarkSweepGC
4. Concurrent Mark-Sweep (CMS) Collector
● Mais trabalho ⇒ mais overhead
● Precisa de mais memória (pq é concurrent)
● Mas menos latência; o CMS é também chamado de
low-latency collector
Usa quando:
● precisa pausas curtas de GC ⇒ pouca latência
● tem suficiente número de cores / CPUs (ao mínimo 2)
Exemplo: servidores web

30. -XX:+UseG1GC
5. Garbage First (G1) a partir do Oracle JDK 7
Motivações:
● Reduzir fragmentação
● Tempos de pausa mais previsíveis (-XX:
MaxGCPauseMillis=n)

31. -XX:+UseG1GC
5. Garbage First (G1) a partir do Oracle JDK 7

32. Comparação das estratégias
Serial
Collector
Parallel
Collector
Parallel
Compacting
Collector
CMS
G1
Young
Gen
Serial
STW
Parallel
STW
Parallel
STW
Parallel
STW
Parallel
STW
Old
Gen
Serial
STW
Serial
STW
Parallel
STW
Parallel
Concurrent
Parallel
Concurrent
STW = Stop-The-World

33. Ergonomics a partir do Oracle JDK 5
Máquina “client”
Máquinas “server”
(CPUs >= 2 && RAM >= 2 GB
&& ! Win_32)
Modo da JVM
(pode forçar com
-client ou -server)
client
server
Garbage Collector
Serial Collector
Parallel Collector
Tamanho inicial do Heap 4 MB
(-Xmsn)
1/64 da memória total, até 1 GB
(mínimo 32 MB)
Tamanho max do Heap
(-Xmxn)
1/4 da memória total, até 1 GB
64 MB

34. Métricas e análise do GC

35. Dicas para uma boa análise de
performance
● Suite de testes de performance
● Representativo do uso em produção
● Para cada medida, variar apenas um
parâmetro

36. JMX
Permite a conexão à JVM a distância
-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=9010
-Dcom.sun.management.jmxremote.local.only=false
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false

37. JMX
● JConsole
● VisualVM
(+ VisualGC)

38. Arquivos de log
Opções da linha de comando:
● -XX:+PrintGC
● -XX:+PrintGCDetails
○ com mais detalhes
● -XX:+PrintGCTimeStamps
○ com datas absolutas

39. Outras ferramentas
●
●
●
●
●
jmap
jstat
hprof: Heap Profiler
hat: Heap Analysis Tool
Eclipse MAT (Memory Analyzer)

40. Exemplo, antes:
Concurrent Mark-Sweep (CMS)

41. Exemplo, antes:
Concurrent Mark-Sweep (CMS)

42. Exemplo, antes:
Concurrent Mark-Sweep (CMS)

43. Exemplo, antes:
CMS, com GC manuais

44. Exemplo, análise
Máquina com 4 CPUs e 1 GB alocado à JVM
● Comportamento da aplicação
● Frequência e tamanho das alocações no
heap (Young Gen)
● Frequência das promoções Young → Old
● Tempo passado no GC (Young e Old Gen)
● Fragmentação do Old Gen
⇒ Encontramos o worst-case do CMS!

45. Exemplo, depois:
Parallel Compacting Collector

46. Exemplo, depois:
Parallel Compacting Collector

47. Exemplo, depois:
Parallel Compacting Collector

48. Exemplo, resumo
● O GC recomendado não é sempre o melhor:
Servidor web ⇒ latência mínima ⇒ CMS?
● Neste caso a funcionamento interno da
aplicação fiz com que o Parallel Compacting
Collector foi muito melhor
● Testa a performance dos varios GCs, mas
entente sua aplicação para poder otimizar!

49. Assuntos mais avançados
● Cada estratégia de GC tem mais parâmetros
para configurar os detalhes
○ -XX:MaxGCPauseMillis=n
○ -XX:GCTimeRatio=n
○ –XX:NewSize=n / –XX:NewRatio=n / –XX:
SurvivorRatio=n
○ –XX:ParallelGCThreads=n
○ –XX:GCTimeRatio=n
● Exige um bom entendimento da aplicação
● Na nossa experiência é raro precisar mudar
essas opções

50. Referências
● http://www.oracle.
com/technetwork/java/javase/memorymanagementwhitepaper-150215.pdf
● http://www.infoq.com/articles/G1-One-GarbageCollector-To-Rule-Them-All
● http://www.oracle.
com/webfolder/technetwork/tutorials/obe/java/G1Getting
Started/index.html

51. Perguntas?

52. Obrigado!
Serge Gebhardt – @sergegebhardt – http://sgeb.me
Adriano Bonat – @tanob
TDC 2013, Porto Alegre