Iptables

Bon alors attention,
il ne s'agit pas de load balancer un coup à droite et un autre à gauche, un pour toi et un pour moi.

Ici le premier serveur se remplit jusqu'à un certain seuil de capacité et tant que les résultats sont bons, continue de recevoir des connexions—d'où le besoin d'un conntrack.

C'est lorsqu'il atteint un certain seuil d'utilisation que les nouvelles connexions vont atterrir sur le deuxième serveur, tout en maintenant les premières.

Le plus simple et rationnel me semble encore d'insérer et de retirer à la volée les bonnes règles iptables sur le loadbalancer (qui en revanche n'est pas encore déclaré comme la passerelle des serveurs).

ça donne ceci ;

 WEB
 │
 ip pub
 ┌───┴────┐
 │ L.B. │
 └───┬────┘
 private net 
 └──────┬───────────┬────────────┐
 ┌───┴────┐ ┌───┴─────┐ ┌───┴─────┐
 │Gateway │ │ Server1 │ │ Server1 │ 
 └────────┘ └─────────┘ └─────────┘

Sortir HAproxy me semble un peu overkill si quelques règles correctement paramétrées au niveau système font l'affaire.