Порой в процессе развития высоконагруженного проекта наступает момент, когда необходимо масштабирование. Возможно, ваш проект впервые упёрся в производительность железа (и таким образом перешёл в разряд высоконагруженных); возможно, это уже не первое масштабирование — не важно. Какие же проблемы могут возникнуть?
Во-первых, если вы увеличиваете количество бэкенд-серверов, и, соответственно, количество рабочих процессов, то с ростом количества одновременных клиентских подключений вырастают и накладные расходы на базах данных.
Во-вторых, достаточно быстро может кончиться ресурс in-memory баз данных. Потребуется создать (либо увеличить) кластер, а это каждый раз влечёт за собой необходимость модифицировать логику приложения.
В-третьих, чем больше серверов, тем больше вероятность, что один из них выйдет из строя. Поэтому неплохо задуматься о том, как обеспечить отказоустойчивость, а это, опять же, потребует модифицировать логику приложения.
В этом докладе я расскажу, как и какими инструментами можно легко решить все вышеперечисленные проблемы: уменьшить накладные расходы от большого количества подключений к базам данных, создать/модифицировать кластер БД прозрачно для приложения, а также прозрачно добавить устойчивость к падениям серверов БД.
2. Содержание
● Как начинается Highload?
● Балансируем нагрузку на Backend
● Методы масштабирования БД
● Создаём кластер Redis/Memcached/Tarantool
● Создаём кластер PostgreSQL
2/47
3. Немножко статистики Avito
● 1M+ запросов в минуту к Backend
● 1Gb/s+ исходящий трафик (не считая картинки)
● 100K+ запросов в секунду на nginx-балансеры
● Терабайты или миллиарды картинок
3/47
20. Решаем проблемы с помощью Twemproxy*
20/47
● Прозрачно проксирует на уровне протокола
Memcached/Redis/Tarantool**
● Держит постоянное подключение к серверу
● Устанавливает мало подключений к серверу
* см. также mcrouter, redis-proxy, redis-resharding-proxy, etc
** нужен патч
22. Шардируем с помощью Twemproxy
22/47
● Автоматическое шардирование
● Поддерживает стойкое хэширование
● Автоматически группирует и конвейеризует
запросы и ответы
28. Redis Sentinel
28/47
● Мониторит состояние всех нод кластера
● Уведомляет об ошибках
● Автоматически промотирует slave до master в случае
падения master
● Выступает в качестве провайдера конфигурации
31. Добавляем отказоустойчивость Redis-кластера
31/47
● Master-Slave Replication средствами Redis
● Автоматическое переключение в случае отказа
мастера с помощью Redis Sentinel
● Прозрачное для клиента переключение с помощью
HAProxy
32. HAProxy
32/47
● TCP-прокси
● Балансирует нагрузку разными алгоритмами
– Round-robin, least connections, first available, param* hash
● Primary/backup группы backend-серверов
● Различные способы проверки доступности серверов
– TCP connect, protocol* check, TCP send-expect
33. HAProxy
33/47
haproxy-redis.conf:
listen redis-cluster
bind *:16379
option tcp-check
balance roundrobin
tcp-check send PINGrn
tcp-check expect string +PONG
tcp-check send info replicationrn
tcp-check expect string role:master
tcp-check send QUITrn
tcp-check expect string +OK
server redis01 192.168.10.1:6379 check port 6379 check inter 2s
server redis02 192.168.10.2:6379 check port 6379 check inter 2s
34. Добавляем отказоустойчивость Redis-кластера
34/47
● Master-Slave Replication средствами Redis
● Автоматическое переключение в случае отказа
мастера с помощью Redis Sentinel
● Прозрачное для клиента переключение с помощью
HAProxy
37. Проблемы
37/47
● Одно подключение – один процесс, создание
процесса – дорогостоящая операция
● План запросов и т. п. кэшируется внутри
процесса, новое подключение – пустой кэш
● Малый срок жизни подключения
● Больше подключений – больше накладных
расходов на сервере
38. Решаем проблемы с помощью PgBouncer*
38/47
● Прозрачно проксирует на уровне протокола
PgSQL
● Держит постоянное подключение к серверу
● Выполняет запросы до и после подключения
● Мультиплексирует клиентские подключения в
трёх режимах: session, transaction, statement
pooling
* см. также PgPool
39. Решаем проблемы с помощью PgBouncer
39/47
pgbouncer.ini:
[databases]
main = host=db-main pool_size=5 connect_query=
'select prepare_statements_and_stuff()'
[pgbouncer]
pool_mode = transaction
max_client_conn = 1024
40. Синхронная и асинхронная репликация
40/47
Синхронная:
● Надёжная
● Медленная
Асинхронная:
● Быстрая
● Теряет ACID, так как слейвы отстают
41. Физическая и логическая репликация
41/47
Физическая:
● Полная копия всех данных
● Загружает I/O
Логическая:
● Можно выбирать, какие данные копировать
● Загружает CPU
42. Создаём MSR-кластер
42/47
1 master, 1 slave:
● Распределяем нагрузку на чтение
● Нет отказоустойчивости
1 master, 2+ slave:
● Можем выдержать падение мастера
43. Создаём отдельную реплику для индексации
43/47
● Логическая репликация:
– Не вымывается кеш на мастере
– Копируются только нужные данные
● Данные умещаются в RAM – нет медленного I/O
45. Шардируем с помощью PL/Proxy*
45/47
● Языковое расширение PostgreSQL
● Устанавливается на одной прокси-ноде
● Вся логика шардирования описывается в
хранимых процедурах PostgreSQL
● Можно реализовать поддержку шард с MSR
* см. также Citus
47. Подведём итоги
47/47
● Много кратковременных подключений к серверу – плохо,
используем прокси
● Нужна отказоустойчивость – используем Master-Slave
Replication, делаем несколько слейвов
● Слейвы должны быть не слабее мастера
● Данные не умещаются на одном сервере – шардируем на
несколько серверов
● Все эти подходы можно комбинировать