Est-il possible d'utiliser plusieurs équilibreurs de charge pour rediriger le trafic vers mes serveurs d'applications?

Je suis nouveau dans l'équilibrage de charge et je me demande s'il est possible d'utiliser plusieurs équilibreurs de charge pour rediriger le trafic vers mes serveurs d'applications. Je ne comprends pas vraiment comment cela peut être fait. Un nom de domaine ne doit-il pas correspondre un à un avec l'adresse IP d'un certain serveur (dans ce cas, l'IP d'un équilibreur de charge)? Si chaque serveur d'équilibrage de charge a une IP différente, comment la demande peut-elle être reçue par les deux équilibreurs de charge (ou par 10 équilibreurs de charge ou 50 ou 100)?

L'utilisation du DNS à tour de rôle n'est pas idéale pour la haute disponibilité - si un serveur se déconnecte, les clients essaieront toujours de s'y connecter et attendront un délai d'attente.

Il existe d'autres moyens d'y parvenir.
1) Équilibreurs de charge actifs / passifs
Fondamentalement, un équilibreur de charge gère tout le trafic pour une seule adresse IP.
Si cet équilibreur tombe en panne, le nœud passif intervient et prend en charge l'IP.
Gardez à l'esprit que les équilibreurs de charge ne sont à peu près que le transfert de trafic, donc pour les sites de petite à moyenne taille, cela peut fonctionner correctement.

2) Équilibreurs de charge actifs / actifs
La même IP de trafic est configurée sur les deux (ou plusieurs autres) équilibreurs de charge.
Le trafic entrant est envoyé à tous les équilibreurs de charge, mais un algorithme choisit quel équilibreur doit répondre, tous les autres rejetent ce trafic.
Pour y penser simplement, vous avez deux équilibreurs de charge:
lorsque l'IP demandante se termine par un nombre pair, alors l'équilibreur de charge A répond, sinon l'équilibreur de charge B répond.

Bien sûr, votre infrastructure doit prendre en charge cela et il y a des frais généraux dus au trafic envoyé mais rejeté.
Plus d'informations, par exemple ici: http://community.brocade.com/t5/SteelApp-Docs/Feature-Brief-Deep-dive-on-Multi-Hosted-IP-addresses-in-Stingray/ta-p/73867

La haute disponibilité avec équilibreurs de charge est généralement mise en œuvre à l'aide d'un protocole d' adresse IP virtuelle (VIP) qui permet à plusieurs hôtes (c'est-à-dire des équilibreurs de charge) de répondre à une adresse IP commune de l'une des manières possibles (variations sur actif / passif, actif / actif) .

Il existe un bon nombre de ces protocoles, ceux que j'ai vus le plus avec les équilibreurs de charge réguliers sont VRRP et NLB (ainsi qu'un bon nombre de protocoles en boîte noire non descriptifs dans les appliances). En étendant les routeurs et les pare-feu, on peut également rencontrer CARP , HRSP , GLSP par exemple.

Cette stratégie présente un certain nombre d'avantages par rapport à l'équilibrage de charge DNS, qui est une stratégie plus simple (et qui est prise en charge dans une autre réponse).

L'équilibrage de charge DNS est par exemple surchargé avec:

• la rotation lente des mécanismes de mise en cache DNS
• algorithmes d'équilibrage de charge limités (généralement juste tourniquet)
• l'externalisation de la décision d'équilibrage de charge vers le client (via la mise en cache de l'enregistrement DNS)
• Vidange lente des files d'attente de service lorsqu'un serveur (c'est-à-dire un équilibreur de charge) est retiré de la rotation (basé sur les TTL d'enregistrement DNS gérés par les FAI et les clients )
• Basculement lent en cas de défaillance de l'équilibreur de charge

En utilisant un protocole IP virtuel pour HA, on peut avoir le choix de réaliser par exemple:

• Choix de l'algorithme d'équilibrage de charge parmi les équilibreurs de charge
• Décisions d'équilibrage de charge centrées sur le serveur (facilitant par exemple les mesures et le routage basés sur l'intégrité du service)
• Vidange plus rapide des files d'attente de service lorsqu'un équilibreur de charge est retiré de la rotation.
• Basculement instantané en cas de défaillance de l'équilibreur de charge

Vous seul savez quelle stratégie et quel protocole correspondent le mieux à votre scénario.

Les exigences: avoir une solution pratique qui fonctionne pour le cloud ou tout type d'environnement où aucun accès aux équilibreurs de charge matérielle, aux protocoles BGP et tout le reste.

Le numéro de demande de revenu d'une application est inconnu mais devrait être suffisamment élevé pour répondre à une attente de charge accrue sans crainte.

Trouvons une application avec une nature de charge similaire, par exemple un magasin de journalisation et une application de recherche. J'en ai trouvé un .

Ce qu'ils veulent:

1. Équilibrez la charge entre les capteurs
2. Offrir une tolérance aux pannes, nous permettant de continuer à ingérer des données si l'un des collecteurs décède ou rencontre des problèmes
3. Échelle horizontale avec la croissance de nos volumes de journaux

Qu'ont-ils essayé et appris sur ELB:

1. Ne fonctionne pas comme prévu
2. Problèmes de latence dus à une charge accrue
3. Pas assez de surveillance
4. Trop de limitations (nombre de ports et protocoles ouverts)

Pourquoi ont-ils choisi avec Route53:

1. "Round robin est un équilibrage de charge assez basique, mais il fonctionne bien pour nous du point de vue de l'efficacité"
2. "Nous profitons des contrôles de santé de basculement Route 53."
3. "S'il y a un problème avec un collecteur, Route 53 le retire automatiquement du service; nos clients ne verront aucun impact."
4. Aucun préchauffage requis avec Route 53

La route 53 s'est avérée être le meilleur moyen pour Loggly de tirer parti de nos collecteurs haute performance compte tenu de nos énormes volumes de journaux, de variations imprévisibles et de la croissance constante de notre entreprise. Cela correspond aux objectifs principaux des collecteurs: collecter des données à la vitesse de la ligne du réseau sans perte, et cela nous permet de bénéficier de l'élasticité de tous les services AWS que nous utilisons chez Loggly.

Cet exemple particulier montre que dans certains scénarios (collecteur de journaux, service d'annonces ou similaire), l'équilibreur de charge est redondant et que la «solution de round robin de contrôle de santé DNS» fait très bien son travail.

Voyons ce que AWS dit du basculement DNS:

Avec le basculement DNS, Route 53 peut détecter une panne de votre site Web et rediriger vos utilisateurs finaux vers des emplacements alternatifs ou de sauvegarde que vous spécifiez. Le basculement DNS de Route 53 s'appuie sur des vérifications de l'état - en effectuant régulièrement des requêtes Internet vers les points de terminaison de vos applications à partir de plusieurs emplacements à travers le monde - pour déterminer si chaque point de terminaison de votre application est actif ou non.

Cette technique rend également ELB (non requis, juste pour une note) plus robuste, encore une fois, il est basé sur RR + Health Check:

Le basculement DNS Route 53 gère tous ces scénarios de défaillance en s'intégrant à ELB en arrière-plan. Une fois activé, Route 53 configure et gère automatiquement les contrôles de santé pour les nœuds ELB individuels.

Voyons maintenant comment cela fonctionne en arrière-plan. La question évidente est de savoir comment gérer la mise en cache DNS:

Cependant, la mise en cache DNS peut toujours être un problème ici (voir notre article précédent où le problème de "longue queue" est couvert) si TTL n'est pas respecté par toutes les couches entre votre client et Route 53. Vous pouvez alors appliquer une technique de "cache busting": envoyer une demande à un domaine unique

("http://<unique-id>.<your-domain>") 

et définir une ressource générique

Record "*.<your-domain>" to match it.

L'Algolie a introduit une "stratégie de relance client" qui fonctionne plutôt bien si votre client (JS dans votre cas) peut gérer cela:

Nous avons fini par mettre en œuvre une stratégie de nouvelle tentative de base dans nos clients API. Chaque client API a été développé pour pouvoir accéder à trois machines différentes. Trois enregistrements DNS différents représentaient chaque utilisateur: USERIDID-1.algolia.io, USERID-2.algolia.io etUSERID-3.algolia.io. Notre première implémentation a été de sélectionner au hasard l'un des enregistrements, puis de réessayer avec un autre en cas d'échec.