https://en.wikipedia.org/wiki/C10k_problem
Magyarul ha sok kapcsolatot akarsz fenntartani, akkor event loop-ot kell használnod a kernel megfelelő poll-ozási megoldásával (epoll, kqueue, végső esetben select).
Javasolt valami lib (libuv pl.) használata, esetleg olyan nyelv és runtime, ami alapból szolgáltatja (Go, pl. :)).