Распределение нагрузки между несколькими балансировщиками нагрузки

Учитывая веб-сайт, который может иметь сотни тысяч одновременных пользователей в часы пик, как можно управлять лаодом, где ресурсы балансировщика нагрузки могут поддерживать только 40 000 одновременных подключений? (Системная спецификация, вне моего контроля)

Единственный способ, который я могу придумать, - это циклическое перенаправление всего входящего трафика на один из X субдоменов (например, 1.domain.com, 2.domain.com... X.domain.com), где каждый субдомен указывает на другой балансировщик нагрузки. Является ли такое перенаправление и передача дорогостоящим с точки зрения сервера? Вызовет ли это предупреждения браузера (например, страница www.домен.com пытается перенаправить вас на...)? Есть ли лучший метод, который я пропускаю? (За исключением получения большего балансировщика нагрузки)

Есть ли «правильный» способ сделать это?

У меня за плечами несколько развертываний с использованием протоколов динамической маршрутизации, таких как OSPF. На bash был написан небольшой триггерный скрипт, который проверял, правильно ли работает прокси/сервер приложений, а затем запускал/останавливал bgpd/ospfd (или просто добавлял объявление с помощью vtysh). этот демон маршрутизации объявляет об одном IP-адресе в сети (подсеть /32), а затем маршрутизаторы распределяют трафик поровну, если два пути имеют одинаковую стоимость - это называется ECMP (многопутевость с равной стоимостью).

Распространенным решением было бы использование Global Server Load Balancer или GEO. В этом случае DNS-запросы пользователя будут распределяться по разным IP-адресам (каждый из которых будет привязан к отдельному балансировщику нагрузки). Большинство GLSB включают проверки работоспособности на конечных точках балансировщика нагрузки (в случае сбоя прекратите отправку пользователей на этот IP-адрес), а также могут использоваться для маршрутизации пользователей к наиболее оптимальной конечной точке, где балансировщики нагрузки распределены по всему миру, т. е. отправка трафика из Европы в конечную точку Европы и т. д. .

Это решение устранит необходимость в упомянутом вами перенаправлении, которое само по себе может добавить ненужную нагрузку на s