<div dir="ltr"><div>Dear list,<br></div><div>I have many servers in a cluster that handle long-lived TCP connections with multiple clients.</div><div><br></div><div>I'd like to collect some opinions on what you'd believe to be the best options to balance the load on these servers:</div><div><br></div><div> - Implement a protocol that a client has to first ask to which server to connect to, and then go for it</div><div> - Use SRV records</div><div> - Have all traffic through some proxy like HAProxy (but then, doesn't this mean that a single box has to handle millions of connections?)</div><div><br></div><div>I do realize that this is not necessarily related to Erlang, but as we often have to deal with backend servers with long-lived TCP connections I thought there might be the correct experience here.</div><div><br></div><div>Hopefully some kind sould will provide me with some suggestions :)</div><div><br></div><div>Best,</div><div>r.</div><div><br></div></div>