nagygép - de mennyire nagy?

Offtopic

Üdv!

Talán van a fórumon valakinek tapasztalata a következő témában.
Adott egy vállalkozás, ami elsősorban operációkutatással foglalkozik (üzleti célú), és lenne igény meg keret egy "nagyobb" számítási teljesítményű gép beszerzésére. A keret nagyjából 10-11 millió HUF, azt szeretném kérdezni, hogy ilyen árkategóriában létezik-e "nagygép", mert egy felsőkategóriás munkaállomásnál azért nagyobbat szeretnénk, illetve inkább a számításkapacitáson (főleg nem lineáris programozási feladatok megoldása végett) lenne a fókusz és nem pl. a grafikai teljesítményben.
Szóval merre induljak a neten szerintetek, mert a HP, SUN, IBM vonalon a munkaállomás és a megabrutál mainframe-ek közt nem igen találtam semmit?
Köszi a segítséget!

üdv: gabaligeti

  • 2067 megtekintés

( pgabor v | 2009. 10. 01., cs – 19:21 )

szvsz több gép üzembeállításával is fokozhatók az élvezetek, megfelelő szoftverrel.

Én is erre szavaznék. Sok kisgép, akár valami occó is.
Könnyen javitható, és könnyen skálázható lesz a végeredmény. Ha nem kell nagy telejsítmény akkor csak a felét kapcsolod be. Monjuk kell neki hely is, meg klíma is. Az sem olcsó... az áramról nem is beszélve. A 10A-es konnektor felejtős :)

Pl. HP/Compaq SFF gép van P4 HT 3GHz procival, 4GB RAM-ot fogad 4 foglalatba (dual channelt tud),
és kb. 175W-ot fogyaszt, tehát 20db elmegy 16A-ről.
Toronynak felépítve kb. 0.25 nm alapterület kell, és kb. n*15cm belmagasság...
(gyors, elnyűhetetlen, kis helyen elfér, keveset fogyaszt, és skálázható)
Mindegyikbe dobsz egy Gbit ethernet kártyát, összecsomózod, Linux telepítés, és kész is a cluster.
-
"Attempting to crack SpeedLock can damage your sanity"

175W felével???
Nézd már meg jobban a tápegységedet...
A fenti leírásomban a fogyasztás max.175W/node...
(de mivel nem 3D gyorsítunk, vagy DVD-t írunk,stb vele,
így a valóságban még ennek is kb. a fele...)

A 16A-ért 20db P4 3GHz HT proci ketyeg,
összesen akár 80 GB RAM-mal.
(bár itt az elv a lényeg, nem a konkrét very low cost példa)
-
"Attempting to crack SpeedLock can damage your sanity"

+1, Az egyetemen, az egyik tanterem komplett gépállományát (egy teremben voltak, 1XX normál gép volt), gigabites hálózattal összekötötték, és nagyon korrekt számítási sebességeket értek el vele. Azt hogy mi volt benne a varázslat, hogy hogyan csinálták, nem tudom, de rendkívűl pörgős volt.
------
3 fajta matematikus létezik. Aki tud számolni, és aki nem.

"Azt hogy mi volt benne a varázslat, hogy hogyan csinálták, nem tudom, de rendkívűl pörgős volt. "

Itt van a kutya elásva. A sok kicsi gép esetén elég sok pénz fog a "varázslat" (szaktudás, implementáció) részére elmenni, és a végeredmény lehet, hogy gyengébb lesz, mint ha 2-3 brutál gép lenne.
Ráadásul a 100x gép elég igényel némi villanyszerelési és hálózatépítési munkát. A tanteremben nyilván már bent volt ez a gépmennyiség, de egy átlagos céges telephelyet ilyen mennyiségű vas lerakása előtt komolyan át kell szerelni, ami szintén nem 2 forint.

Hagy vitatkozzak veled.
Egy ekkora rendszert megfelelő szerződéses feltételek között összekalapálni elég érdekes ahhoz, hogy megfontolandó: a cég támogatási szerződést köt egy menő egyetemmel, és felvesz végzős diákokat gyakornoknak, akik diplomamunka vagy egyéb keretek között megcsinálják neki. A gyakornoki programra valami állami támogatást is tudtunk szerezni az előző cégemnél. (lehet, hogy nem a gyakornok a jó kifejezés).

Summa summárum: szerintem jó ötletet adtál.

( suckit | 2009. 10. 01., cs – 19:57 )

Ebben az árkategóriában egy erősebb PC szervert kapsz (4-8 foglalat, 128, 256 GiB memória)...
Ha a feladat párhuzamosítható, olcsóbb kisebb gépekből építkezni, sokkal nagyobb teljesítményt kapsz ugyanannyiért.

suckIT szopás minden nap! A válság egy nagy kamu

( realrob | 2009. 10. 01., cs – 20:00 )

Szia!

Én feltétlen maradnék az Intel/AMD szervereknél (főleg az x5500 sorozatú intelek lettek durvák, és nagyon jó áruk van), pl. ilyenből sokat (sok RAM-al és 2*4 core-ral gépenként):
http://sunshop.hu/konfiguraciok-151-arak

Persze lehet kapni hasonló konfigot HP-tól, Dell-től és IBM-től is (pl. IBM x3550 M2).
Esetleg ennyi pénzért egy blade keret, és annyi blade amennyi csak belefér?

Rob

( Hiena v | 2009. 10. 01., cs – 21:03 )

Teso gazdaságos alaplapok egy SALGO-DEXION polcba csavarozva.;)
Csak vicceltem.
--
"Maradt még 2 kB-om. Teszek bele egy TCP-IP stacket és egy bootlogót. "

Egen, én is ismerem. Csak HUP-on ilyent nem szabad komolyan megemlíteni, mert jonnek a nagyvasarusok es a fanatikus hiveik Akik aztan bebizonyitjak, hogy nem lehet olcson, nagyteljesitmenyu gepet epiteni, noname alkatreszekbol es hulye a postolo.
--
"Maradt még 2 kB-om. Teszek bele egy TCP-IP stacket és egy bootlogót. "

Hát, HPC-t mostanában clusterekkel érdemesebb csinálni, mintsem nagyvassal.

Az már más kérdés, hogy occsó desktop anyagokból max mekkora teljesítményt lehet egy adott esetben kisajtolni, és honnatól éri jobban meg, ha drágább, de jóval nagyobb teljesítményű szerver alkatrészekből építkezel.

( andrej_ v | 2009. 10. 01., cs – 21:16 )

Ha több gép, akkor vagy valami kellemes blade rendszer 4 cpu-s blade-ekkel vagy a tyannak (de lehet már a supermicronak is) van twin szervere. Ez gyakorlatilag 1U-ban 2db 2 socketes Xeon vagy Opteron cucc és közös a táp. Ez direkt HPC nem redundanciára tervezték. Néhány ilyennel és valami storage-el elég izmos teljesítmény érhető el.

Ezeken felül a HP-nek és IBM-nek is van 4-8 socketes Opteron vagy Xeon szoluciója. A HP-nek nemrég jött ki a DL785G6, amibe 8db 6core-os újfajta Opteron megy és vmi 512GB memória megy. Link: http://h10010.www1.hp.com/wwpc/us/en/sm/WF06a/15351-15351-3328412-24164…

( _ventura_ v | 2009. 10. 01., cs – 21:17 )

Sun vasakat néztem, 4 procis 4 magos x4440 az 16 mag 16G ram 2.5 milka
a x4140 es 2x4magos amd 8G ram 1.1 milka szal árban egy nagyjából.
vagy 8 db 4 magos amd 64G ram ~8-9 milka

vagy blade-ek.

Kérdés, hogy 1 nagy gépet akartok, vagy sok kisebbet és valami HPC cluster megoldás ?

Core2Duo T7100, 4G, Ubuntu 9.04, 2.6.31

X4440 és az X4140-es nem rosz, viszont a 4 magos AMD processzoroknál némileg (sokkal) jobbak az új Intel Nehalem rendszerűek - és most jóval olcsóbbak is.
Ráadásul ezek a szerverek SAS diszkekkel vannak, amik teljesen felesleges árdrágítók, ha amúgy SATA is elég lenne.

Pl.az X2270 egy rack unit méretben ad 2 db Intel X5570 -es négymagos processzort (2.93 Ghz), és 48GB ram-ot, kb. 1,3M-ért.

Ugyanakkora (2 rack unit) helyen, mint az X440 így lesz 4 db brutál Nehalem (16 mag), és 96GB memória, kb abból az árból mint az X4400

( zwei | 2009. 10. 01., cs – 21:16 )

Tulajdonképpen azt kellene tudni, hogy

- skálázódik -e a szoftver több szerveren?
- Ha a szoftver több node-on is fut, akkor van -e "kész" cluster megoldás, ill. támogató infrastruktúra?
(megfelelő helyiség, hálózati eszközök, megfelelő elektromos hálózat, stb)

- Mire kell "optimalizálni"? Cpu, memóriaméret, esetleg diszk IO. Fel kéne állítani egy fontossági sorrendet.

Huh, köszi szépen a sok választ, igen tanulságos dolgokat írtok, úgy érzem hogy a "keret" egy nem is jelentéktelen része fog elmenni a szakemberek megfizetésére, hogy kiderüljön amit szeretnénk, az milyen konfig mellet optimális. Egyébként így első körben szerintem a memória kritikus, mert sok változót kell raktároznia a programoknak, meg persze a cpu a műveletigény miatt, de ez csak tipp.
Esetleg tudtok ajánlani valamilyen bevezető szakirodalmat a témába (mongyuk elektronikusat)?

köszi a válaszokat: gabaligeti

Hát szakirodalmat sajnos nem tudok, de valószínűleg itt többen is szívesen segítenek.

Gondolom már van valami szoftver rendszeretek a feladatra. Pár méréssel érdemes kideríteni, hogy hogyan skálázódik a processzor szám, illetve a memória növelésével.
Egy pár mérésből felrajzolható, hogy kb. mi lehet az optimális konfigurációja egy szervernek. Nem igazán konyítok az operáció kutatáshoz, de gondolom össze tudtok rakni tipikus tesztfeladatokat, amiknek a teljesítményét változó hardware konfigurációkkal meg tudjátok mérni.
Érdemes olyan operációs rendszerrel tesztelni (ha többet is támogat a cuccotok), amivel dedikálni lehet cpu magokat adott alkalmazásnak. (Így egyesével lehet növelni az egyes tesztesetekben a magok számát).
Ugyanígy a memória fokozatos növelésével is be lehet lőni, hogy van -e és ha van hol, egy olyan határ, amin túl már nem számít az extra memória.

Nem vagyok abban a helyzetben, hogy tanácsot adhatnék, érdekelni viszont érdekel, úgyhogy inkább puffogtatok / kérdezek (remélhetőleg nem hülyeségeket).

1. Milyen szoftvert fogtok használni / írni? Egy többmagos, osztott memóriás gépen elfutnak mind a többszálú (osztott memóriás) programok, mind az üzenetváltós (message passing, shared nothing) programok/keretrendszerek (MPI, PVM, ...) Ha ethernet-es cluster-t csináltok, azon csak az utóbbi fut (persze node-onként lehet mondjuk 2-4 mag). Megkockáztatom, hogy ethernet-es cluster-nél a processzor cache-ek mérete nem olyan fontos (nem memóriára vársz, hanem hálózatra), míg osztott memóriás gépnél nagyon fontos (memóriára vársz).

2. Zwei két hozzászólásában is írta, hadd ismételjem meg (?): ha márkás egybedobozt veszel (ami attól, hogy "egybedoboz", még bizonyára lehet message passing vagy NUMA vagy izé), akkor megfizeted ugyan a dolgozó elemek közötti infrastruktúrát is, de meg is kapod ezt az infrastruktúrát. A gyártó bizonyára rárak egy plecsnit a boltban, hogy "ezt az egybedobozt ilyen jellegű terhelésre ajánljuk", és ha valóban olyan jelleggel fogod terhelni, akkor nem lesz benne (relatív) szűk keresztmetszet.

Ha te csomózod össze asztali PC-kből meg ethernet-ből, akkor lesz benne egy csomó szűk keresztmetszet (különféle alaplapi buszok, hálókártya meghajtója, hálókártya, switch), amiket majd menet közben kell megtalálnod, megszüntetned, és akkor is csak odébb fog menni a szűk keresztmetszet egy másik összetevőre. Az infrastruktúra rendelkezésre állása is sokkal ócskább lesz, csinálhattok hozzá külön redundanciát. A Google megcsinálta (meg sokan mások is), illetve lehet Erlang-ban is programozni, de nem biztos, hogy akartok.

Valahogy nem tudom elhinni, hogy egy a hardvergyártó által alkalmazott, dedikált mérnöki / számítástudósi gárda ne rakna össze jobb áteresztőképességű cuccot, mint egy PC-pókháló. Technikailag szerintem simán jobb, ár/teljesítmény arányban tud rosszabb lenni. A széleken valószínűleg a PC-hálózat jobb ebben a hányadosban.

Nagyon kevés node esetén azért, mert az üzemeltetése nem gáz, kiépíteni nem drága, még stabil, a számítási igényt kielégíti (azért használnak kevés node-ot). Nagyon sok node-nál azért, mert akkor külön részleget hoznak létre a kiépítésre/üzemeltetésre ill. külön szoftvert a hibatűrésre, de ezeknek a költsége bejön az irdatlan számítási kapacitásból származó bevételből. A kettő között (ahol a számítási igény közepes: a kevés node már nem viszi el, a sok node kiépítése/üzemeltetése viszont még nem térül meg) lehet az egybedoboz "sweet spot"-ja. Az egybedoboz üzemeltetése / programozása gondolom relatíve olcsó (nem tol ki veled, amikor fontos számolni); többet tud, mint a pár node-os telep, viszont nem skálázódik annyira, mint a sok-sok node-os telep. Vagy izé.

Hm, mégis mennyit sikerült összekamuznom... :)

A végére egy link pusztán érdekességnek: http://sicortex.com/products

Üdv, elvileg AIMMS-et használnák meg MATLAB-ot, de nyilván ez változik ha kiderül, hogy nem támogat elég nagy hardvert, most még leginkább csak az ötletelős szakaszban van a dolog, uh túl sok részletet nem tudok, meg nem is vagyok informatikus uh a felét nem is értem annak amiket írtok (legyen inkább 70%)

Meg egy dolog: ha nem f/oss programot hasznaltok (amit irtal, az nem annak tunik), akkor a licencelesi feltetelet nagyon nezzetek meg! Vannak olyan programok, amikre procinkent, van, amire gepenkent kell fizetni. Namost licencben egy nagy vas lehet, hogy olcsobb, mint mondjuk 16 kisebb gepre 1-1. (es minel tobb kisebb vas van, annal tobb lesz aranyaiban a SW ara - feltetelezve, hogy nem a pirate bayrol toltitek le akciosan)

--
Always program as if the person who will be maintaining your program is a violent psychopath that knows where you live. - Cotillion, TDWTF

Ugyebár itt sok dolog felmerül, nem csak a "VAS":

1, Az NLP feladat partícionálható-e, azaz párhuzamosítható-e? Jó eséllyel az ( és is ilyen feladatokkal foglalkozok ), ebben az esetben jó elképzelés lehet a klaszter azaz : sok kisgép végzi el a részfeladatokat.

A párhuzamosításnak is van egy határa, amelyet ha meg tudtok határozni, akkor meg lehet becsülni a szükséges erőforrás-mennyiséget.

2, AIMMS-t nem ismerem, de a MATLAB-t elég jól, namost utóbbit lehet kétféleképpen használni :
- 1 db "nagygépen", és vagy 1 feladat fut le sokkal gyorsabban, vagy lokális párhuzamos job-ok ( szoftveresen van megoldva egy klaszter, de 1 db gépen ) formájában. Ekkor elég 1db licensz.
- több gépen, ekkor kell több licensz, ami fájós lesz, másrészt a Parallel Computing Toolbox elég gagyi, így arra nem lesz jó alapozni.

3, Gondolom a vasat nem csak az éppen aktuális feladatukhoz vennék, hanem minden projekthez, erőforrásként. Ha jobban belegondolunk, egy komolyabb NLP feladat megoldásának 70-80 %-a matematika, algoritmus, programozás, majd 20% a futtatás. Ezért fölösleges szerintem venni 1 nagy vasat, ami az idő ( eltúlozva!) 70%-ában "áll".

Én vennék a fejlesztők alá 4 magos jó sok memóriás gépeket, aztán esténként ( de akár nappal is fejlesztés közben külön job-ban ) mehet a futtatás.

( zeller | 2009. 10. 01., cs – 21:36 )

Árakat sajna nem tudok, de a Dell PowerEdge R900 (Intel), R905 (AMD) vasak azért elég brutálisak -- mindkettőbe belemegy négy darab, akár hat magos CPU is (meg 256G RAM, meg nyolc darab 2.5"-os diszk...)

Szerk.: Csak a netes árból tippelve a rászánt összegből két ilyen vasat is ki lehet hozni, ha nagyon kell...