AOT для Java: Мифы и Challenges
•
1 like•857 views
Языку Java присущ встроенный динамизм. Reflection, динамическая загрузка — это то, без чего современные Java приложения просто не могут существовать, поэтому существует мнение, что AOT (статическая) компиляция вряд ли применима к Java в общем случае, а там где применима не может составить конкуренцию JIT (динамической) компиляции в плане прозводительности. В этом докладе показывается почему это не (совсем) так, при этом рассматриваются случаи, где у статических компиляторов действительно есть определенные сложности в обработке динамической семантики Java. Также упоминается, где статическая компиляции для Java может быть полезна.
Recommended
Recommended
More Related Content
What's hot
What's hot (20)
More from Nikita Lipsky
More from Nikita Lipsky (14)
AOT для Java: Мифы и Challenges
- 2. Äàâíûì äàâíî, Âî âðåìåíà Ñ+++, Âñå êîìïèëÿòîðû áûëè ñòàòè÷åñêèå ++++++ 2
- 3. Äàâíûì äàâíî, Âî âðåìåíà Ñ+++, Âñå êîìïèëÿòîðû áûëè ñòàòè÷åñêèå ++++++ 3
- 4. Äàâíûì äàâíî, Âî âðåìåíà Ñ+++, Âñå êîìïèëÿòîðû áûëè ñòàòè÷åñêèå ++++++ 4
- 7. • Интерпретация • Компиляция в машинный код и исполнение на “железе” Исполнение Java байткода JVM 7
- 8. Трансляция Java to NaIve • Динамическая (Just-In-Time – JIT). – Трансляция происходит во время исполнения программы • Статическая (Ahead-Of-Time – AOT) – Трансляция происходит до исполнения программы 8
- 9. 9
- 10. План доклада • Мифы вокруг статической компиляции Java • Java AOT Challenges • Применение AOT для ускорения startup, защиты приложений от декомпиляции. • Производительность • AOT в разных областях применения Java – client side, server side, embedded, IOT, mobile. 10
- 11. 11
- 12. Кому нужен AOT для Java? 12 Кто знает про Excelsior JET?Кто знает про Excelsior JET?
- 15. Миф 2. AOT компиляция – убийца WORA WORA Write Once Run Anywhere BORA Build Once Run Anywhere 15 !=
- 19. Нестандартные загрузчики классов • Переопределяют умолчательную логику разрешений ссылок между классами • Уникальное пространство имен • Позволяют управлять зависимостями, решая проблемы JAR hell (OSGi, Java Module System) • Java EE сервера, Eclipse RCP, плагины 19
- 20. Нестандартные загрузчики классов Как компилировать статически? • Компилировать каждый класс изолировано от других – Плохо для производительности • Изучить логику разрешения ссылок для популярных загрузчиков – Не работает для произвольных загрузчиков 20
- 28. Нестандартные загрузчики классов Схема поддержки загрузчиков в AOT: • Компонента разрешения ссылок в AOT компиляторе: – Определяет, какие загрузчики будут созданы во время исполнения и назначает каждому статический ID – Разбивает классы приложения по загрузчикам – Разрешает ссылки между классами 28
- 29. Нестандартные загрузчики классов Схема поддержки загрузчиков в AOT: • Во время исполнения: – По экземпляру загрузчика вычисляется ID – Имея статический ID, мы можем грузить статически скомпилированные классы: • создание экземпляра класса java.lang.Class • наполнение его рефлективной информацией • загрузка кода осуществляется OS 29
- 30. Нестандартные загрузчики классов Схема поддержки загрузчиков в AOT: • Во время исполнения: – По экземпляру загрузчика вычисляется ID – Имея статический ID, мы можем грузить статически скомпилированные классы: Как минимум работает для Eclipse RCP и Web приложений на базе Tomcat 30
- 33. Защита кода приложения • Java bytecode легко превращается в исходный код • Процесс обфускации при активном использовании reflecron трудоемок и трудно поддерживаем • Даже по обфусцированному коду часто можно понять, что код делает – ссылки на JDK остаются в неизменном виде 33
- 34. Защита кода приложения • Машинный код можно только эффективно дизассемблировать • По дизассемблированному коду не понять структуру приложения (нет имен классов, методов) • После агрессивной оптимизации машинный код далек от оригинального кода 34
- 40. 40
- 44. Виды оптимизаций – Протяжка констант – Удаление избыточного кода – Удаление общих подвыражений – Открытая подстановка – Специализация методов – Развертывание циклов – Версионирование циклов – Вынос инвариантов – Удаление хвостовой рекурсии – Девиртуализация вызовов – Аллокация объектов на стэке и их взрыв – Удаление проверок времени исполнения – Удаление избыточной синхронизации – Оптимальная выборка кода и свертка шаблонов – Планировка инструкций – Оптимальное распределение регистров 44
- 46. Девиртуализация вызовов • Предусловие дальнейшей открытой подстановки (inline) • Анализ иерархии классов – метод не перегружается – невиртуальный • Типовый анализ – new T().foo(); //вызов foo() // невиртуальный • Profile guided 46
- 47. A a; … è a.foo(); if (RT_Type(a) in CHA) { inlined body of foo() } else { a.foo(); } Идея: метод не перегружается – невиртуальный Анализ иерархии классов (CHA) 47
- 48. Формальный vs фактический тип A a; //A – формальный тип Если A – формальный тип переменой a, то во время исполнения в a могут находится значения типа наследника A. Такие типы называются фактическими. A a = new B(); //B – фактический тип Источником фактических типов для статического анализа являются операторы new. 48
- 50. Типовый анализ A a = b? new B() : new C(); a.foo(); Если foo() в B и С один и тоже, то a.foo() невиртуальный вызов (можно инлайнить) 50
- 51. Типовый анализ A a = b? bar() : baz(); … a.foo(); Если bar() возвращает только new B, а baz() экземпляры new С, то a.foo() - опять невиртуальный вызов (можно инлайнить) 51
- 54. Аллокация объектов на стэке • Все Java объекты создаются в динамической памяти – Java heap (куча) • Большинство объектов временные • Хочется их размещать на стэке метода Escape анализ (анализ утечек) – определяет утекает ли объект в разделяемую память. 54
- 55. Пример for (Object o: getCollection()) { doSomething(o); } 55
- 56. Пример Iterator iter = getCollection().iterator(); while (iter.hasNext()) { Object o = iter.next(); doSomething(o); } 56
- 57. Пример Допустим анализ показал, что getCollection() всегда возвращает экземпляр ArrayList ArrayList list = getCollection(); Iterator iter = list.iterator(); while (iter.hasNext()) { Object o = iter.next(); doSomething(o); } 57
- 58. Пример ArrayList list = getCollection(); ArrayList.ListItr iter = new ListItr(list); while (iter.hasNext()) { Object o = iter.next(); doSomething(o); } 58
- 59. Пример ArrayList list = getCollection(); ArrayList.ListItr iter = onStack ListItr(); iter.this$0 = list; iter.cursor = 0; iter.size = list.elemData.length; while (iter.hasNext()) { Object o = iter.next(); doSomething(o); } 59
- 60. Пример ArrayList list = getCollection(); ArrayList.ListItr iter = onStack ListItr(list); iter.this$0 = list; iter.cursor = 0; iter.size = list.elemData.length; while (iter.cursor < iter.size) { int index = iter.cursor++; Object o = iter.this$0.elemData[index]; doSomething(o); } 60
- 61. Пример ArrayList list = getCollection(); int cursor = 0; int size = list.elemData.length; while (cursor < size) { Object o = list.elemData[cursor++]; doSomething(o); } 61
- 62. Пример ArrayList list = getCollection(); int size = list.elemData.length; for (int i = 0; i < size; i++) { doSomething(list.elemData[i]); } 62
- 63. • Часто бывают довольно сложными • Требуют итеративного пересчета • Глобальный анализ зависит от ВСЕЙ программы. Все ли это может себе позволить JIT? Анализ и оптимизации 63
- 64. • Часто бывают довольно сложными • Требуют итеративного пересчета • Глобальный анализ зависит от ВСЕЙ программы. Все ли это может себе позволить JIT? Анализ и оптимизации 64
- 65. • Часто бывают довольно сложными • Требуют итеративного пересчета • Глобальный анализ зависит от ВСЕЙ программы. Все ли это может себе позволить JIT? Анализ и оптимизации 65
- 66. Динамические оптимизации • Профилировка и селективная компиляция • Открытая подстановка на основе профиля исполнения • Оптимизация трасс исполнения • Выбор оптимальных инструкций 66
- 71. Server side • Процессорное время в облаках – дорого • Через некоторое время работы сервера профиль исполнения стабилизируется • Почему этот профиль не передать статическому компилятору? 71
- 72. AOT on the Server side • Стабильная производительность, предсказуемая latency – нет деоптимизаций во время исполнения • Нет прогрева, работает в полную силу прямо со старта – Хорошо для load balancing • Лучшее время старта – хорошо, когда много серверов стартует одновременно • Все еще защищает от декомпиляции 72
- 79. Mobile • JVM on Mobile: – Платформенные классы – GC и Memory Manager – Reflecron – JIT Чего не хватает? 79
- 80. Mobile • JVM on Mobile: – Платформенные классы – GC и Memory Manager – Reflecron – JIT Зарядки! 80
- 87. Статическая компиляция Java приложений: 87 Возможна С сохранением всех Java фич Полезна по многим причинам
- 88. Статическая компиляция Java приложений: 88 Возможна С сохранением всех Java фич Полезна по многим причинам
- 89. Вопросы и ответы Никита Липский, Excelsior nlipsky@excelsior-usa.com twitter: @pjBooms 89