Синхронизация без блокировок и СМС
•
6 gostaram•1,796 visualizações
Доклад про неблокирующую синхронизацию. Devclub @ Tallin, 25.11.2015
Recomendados
Recomendados
Mais conteúdo relacionado
Destaque
Semelhante a Синхронизация без блокировок и СМС
Semelhante a Синхронизация без блокировок и СМС (20)
Mais de Alexey Fyodorov
Mais de Alexey Fyodorov (14)
Синхронизация без блокировок и СМС
- 1. Алексей Федоров, Одноклассники / JUG.ru Синхронизация без блокировок и СМС @ #devclub
- 2. Кто вы?
- 4. 4
- 5. 5 Модели • Модель с разделяемой памятью - Регистры - Операции: read, write - Удобно программировать, все привыкли • Модель с передачей сообщений - Послать сообщение - Похожа на то, как реально работает железо
- 6. 6 Терминология • Нет устоявшейся терминологии • Термины: • Parallel - Concurrent - Distributed
- 7. 7 Виды параллелизма • На уровне операционной системы • На уровне одной программы / процесса
- 8. 8 Параллелизм — ОС • Слушать музыку и переписываться в фейсбуке в Одноклассниках • При зависании одной программы другие продолжают работать • и т.п.
- 9. 9 Преимущества параллелизма • Использование нескольких ядер/процессоров - Да и на 1 ядре тоже! (async I/O) • Простота моделирования - Абстракция: фреймворк забирает сложность
- 10. 10 Преимущества параллелизма • Использование нескольких ядер/процессоров - Да и на 1 ядре тоже! (async I/O) • Простота моделирования - Абстракция: фреймворк забирает сложность • Упрощенная обработка асинхронных событий • Более отзывчивые интерфейсы пользователя - Event Dispatch Thread (EDT), async calls
- 11. 11 Параллелизм на уровне отдельно взятой программы • Эффективное использование ресурсов • Удобство, простота написания кода • Справедливость - Обработка запросов пользователей на серверах социальной сети с одинаковым приоритетом - Читатели и писатели - Fairness (честность)
- 12. 12 Lock lock = new ReentrantLock(true);
- 13. 13 Честность! Lock lock = new ReentrantLock(true);
- 14. 14 Блокировки • java.util.concurrent — since Java 5 - Lock —> ReentrantLock - ReadWriteLock —> ReentrantReadWriteLock - StampedLock — since Java 8 • Synchronized method / section • wait() / notify() / notifyAll()
- 15. 15 Блокировки • java.util.concurrent — since Java 5 - Lock —> ReentrantLock - ReadWriteLock —> ReentrantReadWriteLock - StampedLock — since Java 8 • Synchronized method / section • wait() / notify() / notifyAll() Общее: ожидание
- 16. 16 Проблемы блокировок • Взаимоблокировки (Deadlocks) • Инверсия приоритетов • Надежность — вдруг владелец блокировки помрет? • Performance - Параллелизма в критической секции нет! - Владелец блокировки может быть вытеснен планировщиком
- 17. 17 Закон Амдала • α — часть общего объема вычислений, которую нельзя распараллелить • 1-α — часть, которую можно распараллелить • p — количество потоков
- 18. 18 Закон Амдала • α — часть общего объема вычислений, которую нельзя распараллелить • 1-α — часть, которую можно распараллелить • p — количество потоков
- 21. 21 Классификация • Без препятствий (Obstruction-Free) — поток совершает прогресс, если не встречает препятствий со стороны других потоков • Без блокировок (Lock-Free) — гарантируется системный прогресс хотя бы одного потока
- 22. 22 Классификация • Без препятствий (Obstruction-Free) — поток совершает прогресс, если не встречает препятствий со стороны других потоков • Без блокировок (Lock-Free) — гарантируется системный прогресс хотя бы одного потока • Без ожидания (Wait-Free) — каждая операция выполняется за фиксированное число шагов, не зависящее от других потоков
- 23. 23 Сравнительная мощность примитивов Консенсусные числа различных операций • Операции на регистрах — 1 • Read-Modification-Write (RMW) — 2 - Common2 Class — коммутируют друг с другом или перезаписывают друг друга • Универсальные операции — ∞ - Сравнение с обменом (CAS) - Compare-And-Swap, Compare-And-Set
- 24. 24 Compare and Swap • Compare-and-swap (CAS) - IA32, x64 - SPARC • load-linked / store-conditional (LL/SC) - PowerPC - ARM
- 25. 25 Семантика CAS
- 26. 26 CAS Loop — типичный паттерн применения 1. Прочитать значение A из переменной V 2. Взять какое-то новое значение B для V 3. Использовать CAS для атомарного изменения V из A в B до тех пор, пока другие потоки меняют значение V во время этого процесса
- 27. 27 CAS Loop — типичный паттерн применения 1. Прочитать значение A из переменной V 2. Взять какое-то новое значение B для V 3. Использовать CAS для атомарного изменения V из A в B до тех пор, пока другие потоки меняют значение V во время этого процесса Атомарность Read-Modify-Write реализуется за счет постоянного мониторинга системы на предмет постороннего вмешательства
- 29. 29 Fast vs. slow path • Каждый блок кода может иметь, как минимум, два пути исполнения: короткий и длинный • Lock: contended vs. Uncontended • Uncontended Lock: - ≥ 1 CAS
- 30. 30 Недостатки CAS • CAS заставляет потоки, которые его вызывают, работать в условиях соревнования (contention) - Больше contention = больше бесполезных циклов процессора, трата процессорного времени • Написание корректных и быстрых алгоритмов на CAS требует специальной подготовки
- 31. Поддержка в Java
- 32. 32 Поддержка CAS в Java • В Java 5 появился JSR166 - пакет java.util.concurrent - пакет java.util.concurrent.atomic • На платформах, поддерживающих CAS, JIT-компилятор делает inline соответствующих машинных инструкций • Load Linked / Store Conditional
- 33. 33 Atomic variable classes • Scalars • Field updaters • Arrays • Compound variables • Accumulators - since Java 8
- 34. 34 Scalars • AtomicBoolean • AtomicInteger • AtomicLong • AtomicReference
- 35. 35 AtomicLong • boolean compareAndSet(int expect, int update) • long addAndGet(int delta) • long getAndAdd(int delta) • long getAndDecrement() • long getAndIncrement() • long incrementAndGet() • …
- 36. 36 AtomicLong • boolean compareAndSet(int expect, int update) • long addAndGet(int delta) • long getAndAdd(int delta) • long getAndDecrement() • long getAndIncrement() • long incrementAndGet() • …
- 37. 37 atomicInteger.getAndAdd(5) — Thanks, @AndreiPangin JDK 7u80 JDK 8u66 83 46 15 11 132 105 45 43 0 20 40 60 80 100 120 140 1 2 3 4 ops/μs threads
- 38. 38 JDK 7u80 — atomicLong.getAndAdd(5)
- 39. 39 JDK 8u66 — atomicLong.getAndAdd(5)
- 40. ХардкорЪ
- 41. 41 atomicLong.getAndAdd(5) loop: mov 0x10(%rbx),%rax mov %rax,%r11 add $0x5,%r11 lock cmpxchg %r11,0x10(%rbx) sete %r11b movzbl %r11b,%r11d test %r10d,%r10d je loop JDK 7u80 -XX:+PrintAssembly
- 42. 42 atomicLong.getAndAdd(5) lock addq $0x5, 0x10(%rbp)loop: mov 0x10(%rbx),%rax mov %rax,%r11 add $0x5,%r11 lock cmpxchg %r11,0x10(%rbx) sete %r11b movzbl %r11b,%r11d test %r10d,%r10d je loop JDK 7u80 -XX:+PrintAssembly JDK 8u60
- 43. 43 atomicLong.getAndAdd(5) lock addq $0x5, 0x10(%rbp)loop: mov 0x10(%rbx),%rax mov %rax,%r11 add $0x5,%r11 lock cmpxchg %r11,0x10(%rbx) sete %r11b movzbl %r11b,%r11d test %r10d,%r10d je loop JDK 7u80 -XX:+PrintAssembly JDK 8u60 83 46 15 11 132 105 45 43 1 2 3 4 ops/μs threads
- 46. 46 Field Updaters • AtomicIntegerFieldUpdater - Reflection-based updater for volatile int • AtomicLongFieldUpdater - Reflection-based updater for volatile long • AtomicReferenceFieldUpdater - Reflection-based updater for volatile object
- 47. 47 AtomicLongFieldUpdater long addAndGet(T obj, long delta) boolean compareAndSet(T obj, long exp, long upd) long getAndAdd(T obj, long delta) long incrementAndGet(T obj)
- 48. Demo. Legacy Volatile Counter
- 51. 51 AtomicArrays • AtomicIntegerArray • AtomicLongArray • AtomicReferenceArray
- 52. 52 AtomicLongArray • long addAndGet(int i, long delta) • long getAndAdd(int i, long delta) • boolean compareAndSet(int i, long exp, long upd) • long incrementAndGet(int i) • …
- 53. 53 Compound Variables AtomicMarkableReference V compareAndSet( V expectedReference, V newReference, boolean expectedMark, boolean newMark) AtomicStampedReference boolean compareAndSet( V expectedReference, V newReference, int expectedStamp, int newStamp)
- 54. 54 Accumulators • DoubleAccumulator • DoubleAdder • LongAccumulator • LongAdder • (Striped64)
- 55. 55 LongAccumulator • void accumulate(long x) • long get() • long getThenReset() • Void reset()
- 57. 57 Неблокирующие алгоритмы • Алгоритм называется неблокирующим (nonblocking), если отказ или остановка любого потока не может привести к отказу или остановке любого другого потока • Алгоритм называется свободным от блокировок (lock-free), если на каждом шаге какой-то поток выполняет работу (make progress) 57
- 58. 58 Неблокирующие алгоритмы • Алгоритм называется неблокирующим (nonblocking), если отказ или остановка любого потока не может привести к отказу или остановке любого другого потока • Алгоритм называется свободным от блокировок (lock-free), если на каждом шаге какой-то поток выполняет работу (make progress) 58 nonblocking и lock-free — это разные вещи! - Алгоритмы на CAS могут быть одновременно неблокирующими и свободными от блокировок
- 59. 59 Неблокирующие структуры данных • Стек • Очереди - Много разных алгоритмов - Michael and Scott, 1996 - Потоки помогают друг другу
- 60. Литература
- 61. 61
- 62. 62
- 63. 63
- 64. 64 DL и все-все-все http://altair.cs.oswego.edu/mailman/listinfo/co ncurrency-interest To post a message to all the list members, send email to concurrency-interest@cs.oswego.edu
- 67. Вопросы и ответы
- 68. 68 Development @ Odnoklassniki •Blog -http://habrahabr.ru/company/odnoklassniki •Open source -https://github.com/odnoklassniki •Career -http://v.ok.ru