hpc cloud-on

Virtualizáció

Sziasztok!

Adott egy kis project amit cloud-ra almodtunk:
Ez egy Monte-Carlo szimulacio (nagyon jol skalazodik es majdnem trivialisan implementalhato).
Nehanyszor futna (mondjuk havonta ketszer) csak, de akkor nagyon gyorsan kellene az eredmeny.
Azon agyaltunk, hogy valamelyik publikus cloud-szolgaltatohoz fellojuk, de itt akadtunk el egy picit.A gyors futashoz az kellene, hogy kb 500 core-on fusson a szerencsetlen (attol fuggoen, hogy mennyire veszik vissza a teljesitmenyt ez lehet hogy 1000 core).
Mivel csak neha futna, igy nem tunik okos dolognak egy ekkora szerverparkot folyamatosan 'berelni', szoval ha kell, akkor kellene felallitani.
Akkor vissza a gyors futashoz: ennek a szerver-park felallitashoz keves ido all rendelkezesre.
(szamokkal: max 10 perc alatt kellene vegezni a szerverek felallitasaval+szimulacioval, ebbol 1-2 perc eshet maximum a szerverek felallitasara!).
Van ilyen cloud-szolgaltato?
(trivialis megoldas a awc ec ... sajna ott olyan benchmarkokat olvastam, hogy 10 percesek a felallasok ... a Digital-ocean 55 masodpercet iger felallasra ez jo ... a gogrid meg a leggyorsabb CPU-kat ... de ezeket nem tudom mennyire rugalmasak ... es ezek csak nehany szolgaltato ...)

otletek/tanacsok/tapasztalatok?

Koszonettel,
k.

  • 2325 megtekintés

( klixnetwork | 2015. 07. 06., h – 09:19 )

Szia! Nálunk van lehetőség alkalmi projektekre is bérelni dedikált szervert. Ha érdekes lehet, írj rám! Köszi

Én is úgy gondolom, hogy a VM-eknek kiadni a STARTUP-ot és nem megvárni, amíg felállnak, párhuzamosan nyomni a indítást jó megoldás lehet.

Bár a projekt menedzsernek elmesélném, hogy az álmok (1-2 perc) és a gyakorlat ("akár" 5-10 perc) között van különbség. Amit ő akar, azt is meg lehet csinálni, folyamatosan bérelve a szervereket :)

Nálunk is felmerült:
4000lap/perc nyomtatás, akár 12 órán át folyamatosan. (Elmélet).
Nincs akkor szobánk, ahova beférne annyi nyomtató (Gyakorlat)
500lap/perc, korábban kezdve (Megoldás)

--------------------------------
last project: www.ekaer-feladas.hu

( winben | 2015. 07. 06., h – 10:16 )

DO-nél létrehozod a dropletet, majd snapshot, törlöd és ha kell visszaállítod a géped 55 mp alatt, nem kell konfigolni.

Egyedüli gond lehet, hogy ilyen nagy gép bérlésére általában náluk ticketet kell felvenni.

-------------
No commit - no comment.
DevMeme, fejlesztői pillanatok...

Jaja.

Viszont a DO-ről:
Van hozzá api, lehet kérvényezni, hogy hány dropletre lesz szükséged egy időben és ha meg tudják adni akkor egy megírt apival szerintem a kellő pillanatban elő lehet húzni x mennyiségű gépre a snapshotokat.

-------------
No commit - no comment.
DevMeme, fejlesztői pillanatok...

( Nyosigomboc v | 2015. 07. 06., h – 10:26 )

Amiket meg megnezhetnel:
-Lehet elore tudni mikor fog futni? Ha igen, elotte felallitod a gepeket, es akkor csak az adatokra kell varni.
-Az adatok egyszerre keletkeznek, vagy folyamatosan allnak ossze? Nehany esetben megoldhato, hogy folyamatosan fusson a szimulacio, a koztes adatokkal egyre finomitva a modelledet, es amikor bejott a vegleges adat, a koztes szamitasok miatt hamarabb kapsz eredmenyt.
-Az addathalmazod belefer egy videokartya memoriajaba, illetve vegezheto GPGPU-n a szamitas? Meg ha sajat gepet kell venned ehhez, akkor is jol johet, mert sokkal hatekonyabb lehet, foleg, ha sokszor kell szimulalni. (vagy keress olyan cloud szolgaltatot, akinek ilyen gepei vannak)
-Azt az idot is szamold bele, amig a meresi adataid felkerulnek a cloudba! (a 10 percbol lejon a halozat ideje, hacsak nem kezdheto el a szimulaciod az adat egy reszevel)
-A gep felallitasi idejet ne egy LAMP geppel merd, mert neked a vegletekig lecsupaszitott node-ok kellenek. (gondolom a cloudok tobbsege azt adja meg, mert sokan arra kivancsiak)
A cloud-ot pont erre a feladatra talaltak ki, de a fenti kerdesekre adott valaszok alapjan modosulhat.

--
I'm not saying the new Apple Watch will only be worn by wankers but it's not vibration, shock and splash proof for nothing.

- nem, sajna nem lehet tudni mikor kell a gep ...
- anyagi okobol jo lenne, ha akkor futna mikor kell, addig amig kell ...
- Ilyenen en is agyaltam, de ebbe az iranyba akkor mennek el, ha mar nem csak havi 1-2-szer kellene szimulalni hanem kvazi-folyamatosan. En a Xeon _hi-vel szemezgettem, mert b"szott nagy lookup table-ket kellene feldogni a videokartyara (meghat meg nem programoltam olyat)
- kicsit kezd konkretabb lenni a kep, vsz mostmar megerett hogy a szolgaltatokat zargassam vele ...

Koszi (Neked is)!

( Lacyc3 v | 2015. 07. 06., h – 10:30 )

Nem tudom milyen szektorban dolgozol, de a NIIF megkeresésére gondoltál már? Gondolok itt Leora, neki biztos van elég kapacitása.

( andrej_ v | 2015. 07. 06., h – 10:31 )

AWS ha jól tudom API-val is nyomogatható, de mire 500 core-nyi gép bárhol elindul az 1-2 perc alatt igen necces.

Biztosan lehet párhuzamosan, de gondold el az API logikai oldalát, úgy hogy mondjuk 50 darab masina kell. Tegyük fel párhuzamosan indítasz 5db taskot 10-10 VM indításra, akkor a taskon belül meg kell várnod hogy elinduljon egy VM (azaz az API visszajelezzen, hogy lesz-e belőle valami), a VM-ek IP címet és egyebeit tárolnod kell majd ezekre még fel is küldeni, hogy mit akarsz számolni. Maga az API válaszideje, sőt már ennyi kérésnél a hálózat válaszideje is befolyásolja, hogy mennyi idő alatt készül el a rendszered.

Számlázásilag az AWS per óra számláz és gondolom megkezdett órákért. Ha mondjuk c3.8xlarge instance-ból 20db-ot indítasz az kb. USD 42 lesz azonnal.

(Árak: http://aws.amazon.com/ec2/pricing/ EU(Frankfurt), Compute Opt.)

( mrceeka v | 2015. 07. 06., h – 11:35 )

"max 10 perc alatt kellene vegezni a szerverek felallitasaval+szimulacioval, ebbol 1-2 perc eshet maximum a szerverek felallitasara!"

Segíts, kérlek, megvilágítani a hátteret!
Miért számolod egybe a szerverek felállítását a szimuláció futtatásával?
Ennyire rosszul előrejelezhető, hogy mikor kell majd számolni?
Tehát, ha jól értem, mondjuk a (leendő) indítástól számított 8 perccel korábban még semmit sem tudni arról, hogy 8 perc múlva nagyon számolni kell?
Vagy ezt az egészet csak a költségek minimalizálása miatt kéred?

Üdv,
Marci

igy van!
amit csinalgatunk az egy 'cad' program, amivel el lehetne kuldeni a szerkesztett geometriat, es az MC 'ezen a geometrian' futna. De ha valaki a csak geometriat akar hegyezni, akkor felesleges a gepeket feltuzelni. |Ellenben ha lenyomja a 'send'(vagy hasonlo) gombot, akkor el kellene kezdodnie a mokanak.

mondhatnam, hogy semmi, de ha 8 perccel kesobb jon a eredmeny, akkor soha nem lesz olyan hogy havonta 2000-szer tortenjen meg, mert a kliensek elvandorolnak oda ahol nem kell 8 percet varni ... (a project egy kicsit 'meg tudom (-e) csinalni' de csak kicsit. kozelebbrol meg ertelme is lenne neki ... :-))

És azt jól értem, hogy maga a tervezési folyamat ('cad'-szerű dolog) viszont kellően lassú és kiszámítható, hogy aki dolgozik vele, vélhetően tudja magában, hogy egy 10 perc múlva futtathatnékja lesz?
Mert ez esetben a környezet beizzításásra/leállítására lehet külön lehetőséget adni.
Aztán vagy él vele, vagy nem.

Üdv,
Marci

Persze ... igazad van ... En tudnam is, meg vsz Te is ...
De a divatjat mult 'egysegsugaru juzer'nek ez plusz egy lepes amit O szuksegtelennek es kenyelmetlennek erez!
Ha penzem lenne en epitenek szervert azon futna a dolog, de az kozel 10^7 forint lenne -valoszinuleg- kozel sem 24/7-es rendelkezesre allassal, ..., es a tobbi es a tobbi ...
Mint ahogy irtam, ha majd 2000 (hasrautesszeru szam) task inditodik habvonta, akkor majd komolyan elgondolkodom a dolgon, de egyenlore ekkora osszegek kb ezert a kihasznaltsagert kidobni ... nekem nem eri meg ... (ha valaki venture capitalist olvassa ezt a szalat es eppen nem tudja hova rakni a penzet, akkor en felepitenem ezt a szervert ...)
(mint mondom igazad van, de az ember mar csak olyan, hogy a tvjet is inkabb stand-by-ba rakja, pedig kb tudja mikor akarja majd bekapcsolni, meg kulonben is csak a fotelbol kellene felallni ...)

( Benjamin v | 2015. 07. 06., h – 12:48 )

Szia!

Tudom, nem egészen ezt keresed, de vess egy pillantást az Amazon EC2 Spot instance lehetőségre is. Nagyon olcsón tudsz nagy teljesítményt bérelni(ha épp szerencséd van).

-----
“Firefox, you say? No I don't play Pokémon”

( o_O v | 2015. 07. 07., k – 17:08 )

Amazonnak van HPC szolgaltasa de...amit kersz az igazabbol nehez megvalosithato. AWS-t elege ismerem a HPC-t szoval azt nemtudom mennyi ido alatt all fel. Egy AWS-ben egy cluster kb. 2-5 perc alatt indul el teljesen.
--
"ssh in a for loop is not a solution" – Luke Kanies, Puppet developer