Вопрос #

Пользователь сообщает, что он использует Relianoid для балансировки нагрузки с сохранением сеансов на основе вставки cookie. Изначально настройка была идеально сбалансирована с пятью серверами. Однако после добавления нового сервера в пул сеансы не распределяются так, как ожидалось. На новом сервере всего несколько сеансов, в то время как существующие серверы продолжают обрабатывать большую часть трафика.

объяснение #

Эта проблема возникает из-за текущего механизма сохранения сеанса и используемого алгоритма балансировки нагрузки.

Понимание проблемы #

1. Сохранение сеанса на основе вставки файлов cookie: При использовании вставки cookie для сохранения сеанса балансировщик нагрузки назначает уникальный cookie каждому клиенту. Этот cookie направляет последующие запросы от того же клиента на тот же внутренний сервер, обеспечивая сохранение сеанса. Это хорошо работает в стабильной настройке, но создает проблемы при добавлении нового сервера в пул.

2. Существующие сеансы «липкие»: Поскольку сеансы уже установлены с исходным набором серверов, эти существующие сеансы остаются «привязанными» к своим исходным бэкэндам из-за сохраняющегося cookie. Следовательно, недавно добавленный сервер получает только новые сеансы или трафик от новых клиентов, которым еще не назначен сохраняющийся cookie.

3. Ограничения текущего алгоритма планирования: Многие балансировщики нагрузки используют алгоритм планирования по умолчанию, например Round Robin или Least Response Time. Эти алгоритмы не обязательно перераспределяют нагрузку при добавлении новых серверов, особенно когда задействовано сохранение сеанса. Это связано с тем, что алгоритмы, как правило, поддерживают соединения с существующими бэкэндами для активных сеансов.

Почему сессии не перебалансируются #

При добавлении нового сервера он не сразу начинает равномерно распределять нагрузку, поскольку:

• Существующие сеансы привязаны к своим исходным бэкэндам.
• Алгоритм планирования по умолчанию не отдает приоритет бэкэндам с меньшим количеством сеансов или подключений.

Для достижения справедливого распределения сеансов необходим другой алгоритм балансировки нагрузки.

Решение #

Используйте алгоритм планирования «Наименьшее количество соединений» #

Алгоритм Least Connections — это метод планирования, при котором балансировщик нагрузки выбирает сервер бэкэнда с наименьшим количеством активных подключений. Такой подход помогает распределять сеансы более равномерно, особенно при добавлении нового сервера в пул.

Вот почему принцип «наименьшего количества связей» эффективен в этом сценарии:

• Динамическая перебалансировка: в отличие от алгоритмов типа Round Robin, Least Connections постоянно оценивает, какой сервер имеет наименьшее количество активных сеансов. Это позволяет новому серверу, изначально имеющему меньше сеансов, получать больше новых подключений, пока нагрузка не выровняется.
• Более эффективное использование ресурсов: по мере создания новых сеансов они будут направляться на сервер с наименьшей нагрузкой, что улучшает общее использование ресурсов.

Шаги по реализации алгоритма «Наименьшее количество связей» в Relianoid #

1. Доступ к конфигурации балансировщика нагрузки Relianoid: Войдите в консоль администрирования Relianoid или воспользуйтесь инструментами CLI, если применимо.
2. Перейдите к настройкам балансировщика нагрузки.: Найдите настройки для вашего экземпляра балансировщика нагрузки, который управляет пулом серверов с сохранением сеанса.
3. Изменить алгоритм планирования:

• Найдите настройку алгоритма балансировки нагрузки или метода планирования.
• Измените алгоритм с текущего значения (например, Round Robin) на Наименьшие соединения.

4. Сохранить и применить изменения: Обязательно сохраните изменения и примените их к конфигурации балансировщика нагрузки. В зависимости от вашей среды, это может потребовать перезапуска балансировщика нагрузки или выполнения мягкой перезагрузки.
5. Мониторинг и проверка: После применения изменений отслеживайте распределение сеансов по всем серверам. Со временем новый сервер должен начать получать больше сеансов, что приведет к более сбалансированной нагрузке.

Заключение #

Изменяя алгоритм балансировки нагрузки на «Наименьшее количество подключений», вы гарантируете, что новый добавленный сервер сможет догнать и начать обрабатывать больше сеансов. Этот метод динамического планирования учитывает количество активных подключений и эффективно распределяет нагрузку, решая проблему дисбаланса, вызванную сохранением сеанса с вставкой cookie.

Если после внедрения этого изменения у вас по-прежнему возникают проблемы, рассмотрите возможность проверки:

• Работоспособность и производительность недавно добавленного сервера.
• Конфигурация других параметров, которые могут повлиять на балансировку нагрузки (например, настройки времени ожидания сеанса, длительность закрепления и т. д.).
• Журналы уровня сети или приложений на предмет потенциальных ошибок или узких мест.

Выполнив эти шаги, вы сможете оптимизировать конфигурацию балансировщика нагрузки, чтобы обеспечить справедливое и сбалансированное распределение сеансов по всем серверам в вашем пуле.