The Jikes Research Virtual Machine

Jikes - Research Virtual Machine
Divino C´esar S. Lucas
Universidade Estadual de Campinas
27 de Novembro de 2012
Divino C´esar S. Lucas (UNICAMP) Jikes - Research Virtual Machine 27 de Novembro de 2012 1 / 31

Sumário
1 Introdu¸cão e Preliminares
O que é Jikes RVM?
Máquina Virtual Meta-circular
Técnica de Emula¸cão
Forma¸cão de Região e Code Cache
Representa¸cão Intermediária

Sumário
2 Adaptive Optimization System
Visão Geral do Sistema
Virtual Processors
Otimiza¸cão Seletiva e Adaptativa
Inlining Adaptativo

Sum´ario
Virtual Processors
Inlining Adaptativo
3 An´alise de Desempenho

Sumário
Virtual Processors
Inlining Adaptativo
3 Análise de Desempenho
4 Conclusões
5 Perguntas

Introdu¸c˜ao
Parte 1
Introdu¸c˜ao e Preliminares

Introdu¸cão
Máquina Virtual Java desenvolvida pela IBM.
Anteriormente conhecida como Jalapeno.
Com propósito apenas de pesquisa.
Escrita em Java. É uma MV meta-circular.
Dispon´ıvel para IA32 e PowerPC.
SIGPLAN 2012 Award: Mais de 200 artigos, 40 disserta¸cões e 25
cursos em mais de 100 universidades.

RVM Java
Source
Javac
RVM Java
Bytecode
Boot
Writer
Java
Boot
Runner
C
RVM
Process
RVM Kernel Bytecode
RVM Subsystems Bytecode
RVM Kernel
Binary

Não utiliza interpreta¸cão.
Múltiplos n´ıveis de otimiza¸cão.
Múltiplas threads de compila¸cão.
Modelo de otimiza¸cão adaptativa.
A compila¸cão pode ocorrer em três situa¸cões:
1 No carregamento da classe.
2 Na primeira invoca¸cão do método.
3 Quando o subsistema de otimiza¸cão achar lucrativo.

Compiladores e Otimiza¸cões
Baseline Compiler
Objetivo: gerar código nativo rapidamente.
Traduz Bytecode diretamente para código nativo.
Não faz aloca¸cão de registradores.
Optimizing Compiler
Possui de três n´ıveis de otimiza¸cão.
Todos os n´ıveis usam linear-scan (aloc. reg) e BURS (sel. instr).
Level 0:
Constant, type, non-null e copy propagation.
Constant folding, arithmetic simplification, branch optimizations
Dead code elimination e trivial inlinings.
Level 1:
Algumas otimiza¸cões do Level 0.
Inlining agressivo (type hierarchy analyzis)
Level 2:
Loop Optimizations (unroll e normalize)
SSA-based flow-sensitive optimizations (GVN, GCSE, etc).

Custos e Speedups
Compilador Taxa de Compila¸cão* Speedup**
Baseline 909.46 1.00
Level 0 39.53 (23x) 4.03
Level 1 18.48 (2.13x) 5.88
Level 2 17.28 (1.06x) 5.93
*Taxa de Compila¸cão = Bytecode por milissegundos.
**Valores normalizados em rela¸cão ao compilador Baseline.

Técnica de Forma¸cão de Regiões
Não forma tra¸cos nem super blocos.
Compila¸cão é por método.
Não utiliza cache de código.
Usa objeto para representar as informa¸cões do método.
Stubs são inseridos para chamadas de métodos ainda não compilados.

Objeto M´etodo. RVMMethod.java

Objeto M´etodo. CompiledMethod.java

Java Bytecode
Jikes High-level IR (HIR)
Representa¸cão de três endere¸cos.
Opera¸cões similares às de Bytecode.
Jikes Low-level IR (LIR)
Usa recursos especificos da Jikes (ex: modelo de objetos).
Jikes Machine-level IR (MIR)
Inclui detalhes da máquina alvo.
Similar a linguagem de montagem.
N´ıvel onde é feita a aloca¸cão de registradores.

Adaptive Optimization System
Parte 2

Visão Geral
Objetivos:
Selective and Adaptative Optimization
Quais métodos devem ser compilados?
Com qual n´ıvel de otimiza¸cão?
Em que momento durante a execu¸cão?

Vis˜ao Geral
Objetivos:
Feedback-directed Inlining
Fazer o inlining de hot edges do DCG (Dynamic Call Graph).

Vis˜ao Geral
Objetivos:
Feedback-directed Inlining
Fazer o inlining de hot edges do DCG (Dynamic Call Graph).
Extens´ıvel e Flex´ıvel

Yeld Points e Virtual Processors
Uma thread pode ser interrompida somente em um destes pontos:
Em um prólogo de método.
Em um ep´ılogo de método.
Em uma backedge.
Virtual Processors têm“stop bit”para ativar troca de contexto.

Modelo de Custo. Defini¸cão.
Seja:
M um conjunto de métodos e
α = {Am
j |0 ≤ j ≤ k, ∀m ∈ M} um conjunto de a¸cões, onde:
Am
j significa compilar método m com n´ıvel de otimiza¸cão j.

Seja:
α = {Am
Am
Consideramos as fun¸cões:
C(Am
j ) = Custo da a¸cão Am
j .
T(Am
j ) = Tempo de execu¸cão futuro de m se Am
j for executada.

Seja:
α = {Am
Am
Consideramos as fun¸cões:
C(Am
j ) = Custo da a¸cão Am
j .
T(Am
j ) = Tempo de execu¸cão futuro de m se Am
j for executada.
Para cada método m:
escolha a a¸cão Am
j que minimiza C(Am
j ) + T(Am
j ).

Modelo de Custo. Implementa¸cão.
Definimos as fun¸cões:
C(Am
j ) = f (tamanho(m))
T(Am
j ) = σ(m)δSi
Sj
Onde:
σ(m) = Número de amostras do método m.
δ = Tamanho do intervalo entre amostras.
σ(m)δ = Tempo (estimado) que m executou.

C(Am
T(Am
j ) = σ(m)δSi
Sj
Onde:
Tempo (estimado) que m executar´a!

C(Am
T(Am
j ) = σ(m)δSi
Sj
Onde:
Tempo (estimado) que m executar´a!
Si
Sj
= Speedup do n´ıvel j em rela¸c˜ao ao n´ıvel i.

Arquitetura
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

Amostragem
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

Dete¸c˜ao de M´etodos Quentes
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

Controlador
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

Compiladores
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

Adaptative Inlining
Decay Organizer
Dynamic
Call Graph
Adaptive Inlining
Organizer
Call Edge
Samples
Method Sample
Data
Hot Methods
Organizer
Method
Samples
Priority Queue
Controller
Knowledge
Repository
Priority Queue
Compilation Thread
Baseline, Opt0,
Opt1, Opt2
Executing
Code

An´alise de Desempenho
Parte 3

Metodologia
Experimentos realizados com o SPECjvm98.
Training Set significa benchmarks com entrada“100”.
Production Set significa benchmarks com as demais entradas.
Experimentos realizados em uma máquina com um processador.
Resultados são da mediana de 10 execu¸cões.
Constantes obtidas utilizando o Training Set.

Potencial da Abordagem Seletiva

Potencial da Abordagem S. Baseada em Modelo

Potencial da A. S. com M´ultiplos N´ıveis

Conclus˜oes
Parte 4
Conclus˜oes e Perguntas

Conclusões
Conclusões
Robusta abordagem dinâmica para compila¸cão seletiva.
AOS adapta-se melhor a diferentes cenários/benchmarks.
Projeto robusto e“fácil”de expandir.

Perguntas?
Perguntas?

The Jikes Research Virtual Machine

Mais conteúdo relacionado

Destaque

The Jikes Research Virtual Machine