Amit én láttam picit nagyobbacska webes szolgáltatást, ott elöl haproxy fogadta a kéréseket, a forgalom request-alapon ment hátra több backend farmra, ott meg nginx, tomcat szolgált ki.