Hasonló problémába egyszer én is belefutottam egy kis VPS-en. A megoldás az lett, hogy a
http://httpd.apache.org/docs/2.0/mod/mpm_common.html#maxrequestsperchild
direktívát a default 10000-ről valami 200-ra (prefork esetről volt szó). Így aztán nem volt sok ideje elhízni a processzeknek, mert még idejében kihaltak. Féltem, hogy ez majd megdobja a processzorterhelést, de szerencsére nem ez történt, persze kis kihasználtságról volt csak szó. Persze meg kell gondolni az értéket, ez a 200 nagyon kevés is lehet, ha olyan weboldalaid vannak amik tele vannak mondjuk kis képekkel vagy ilyesmi. Ilyenkor 500-1000 lehet a jó.
Ha ezt beállítod, érdemes nézegetni, hogy mennyi időt éldegélnek a processzek átlagosan, illetve az élettartam és memóriafoglalás közötti összefüggést:
ps -eo comm,etime,rss |grep 'httpd'
és ez alapján finomhangolni az értéket.
Ha csak a MaxClients-et állítod, attól még elég jól el tud hízni a httpd néhány memóriazabáló alkalmazástól (tipikusan ilyen pl. az eGroupware).
Van még a MaxMemFree kapcsoló is amivel érdemes lehet játszogatni, ezt még nem próbáltam.