"Mi más okból, mint hogy nagy memóriát, sok, illetve változó objektumot kezelni nem hatékony a JVM-ben?"
Hatékony, létezik egy tucatnyi design pattern a különféle esetekre, a megfelelőt kell használni, ritka esetben például JNA-t.
A Cassandra például azért használ a JNA, mert a design pattern szerint egy egy fizikai (vagy virtualizált) gép = egy Cassandra node. A Cassandra pedig a végletekig kihasználja a rendelkezésre álló memóriát, ha egészen pontos képet kap arról, hogy mi van swap-en, mi van memóriában és az adott SSTable alatt milyen storage van, az mikor van szinkronban a memóriával, akkor sokkal hatékonyabban tud dolgozni, mintha ezekről nem tudna, mert elfedi ezeket az információkat a JVM (aminek ugye ez a dolga).
"Akárhány projektet láttam (elasticsearch, opendj legutóbb), mindegyik szenved, ha elkezdenéd használni egy mobiltelefonnál nagyobb vason."
Most mit mondjak erre... talán nem való Neked a Java projektek üzemeltetése és/vagy a FreeBSD-n való üzemeltetése. :/
Én meg akárhány projektet láttam, képes voltam megfelelően használni és üzemeltetni is... esetleg meg kellene érteni a működésmódot és az üzemeltetési sajátosságokat, de ahogy látom az eddigi hozzászólásaidból: nem sikerült.