50-60 TB "ritka", de akkor gyors elérése

Merevlemezek, vezérlők

Sziasztok,

A következőre keresek megoldást.

Sajnos, nincs rendszertervezési és üzemeltetési ismeretem, ezért előfordulhat, hogy h.ly.ségeket írok, rosszul gondolkodom.

Filmgyártásban dolgozom vágóasszisztensként, elsősorban nagyjátékfilmekben, ill. tévés sorozatokban.
Manapság majdnem minden "videóra" forog, legtöbbször valamilyen Arri vagy RED kamerára, így sok-sok TB tárolására van szükség.Maradjunk a sorozatoknál. Egy-egy sorozatnál, azaz évadonként 8-10 epizódnál, kb. 50-60 nap forgatási nap van, többnyire két kamerával.
Egy nap kb. 1TB-nyi anyag "keletkezik", (kameránként) kb. 60-80 felvétel, a kép általában ProRes, pld. 3K/ProRes444 esetén kb.750 Mbps-es bitrate-tel, tehát GB-os nagyságrendű fájlokról van szó, ill. felvételenként külön sok sávos hang (24 bit/48 kHz-ben) is rögzítésre kerül, azok mérete pár tíz MB-ról pár száz MB-ig terjed, ill. mellette pár kisebb fájl keletkezik (tíz kb-os nagyságrendben), pld. minden fáljhoz készül pld. xxHash64-es "ellenőrző kód", de "kártyánként" 1 fájlba.

A napi helyszíni mentést az ún. "Data Wrangler", vagy esetlegesen a "Digital Imaging Technician" (DIT) végzi, általában HFS-re formázott diszkre, amiből "később" 2-3 további mentés készül, játékfilmnél LTO-ra is, ez utóbbi sorozatoknál/kisjátékfilmeknél/dokumentumfilmnél nem jellemző.

Sorozatoknál/kisjátékfilmnél/dokumentumfilmnél a gyártó cég általában mindenen spórol, ezért sokszor a vágóasszisztens csinálja a helyszínről megkapott diszkről a mentést 2-3 példányban, pld. dokkolóban belső diszkekre. Azaz 60 nappal számolva, 1 TB/nap esetén, 3 TB-os diszkeket használva, 2 példányban, 2x20 diszkre fér el a forgatott anyag.
Emiatt (is) nem szokás közvetlenül a forgatott anyagot vágni, hanem a vágóasszisztens transzkódolja azt ún. offline-ra, például DNxHD36-ra vagy DNxHD120-ra (24 fps-nél DNxHD115-re), amit megkap a vágó.

Pár hónap, az ún. picture lock után (mikor elfogadják a végleges a képet), általában a vágóasszisztens konformálja a fényeléshez az anyagot, a colorist megkapja vagy az eredetit "összevágva", vagy vele egyenértékűt mondjuk DNxHD-ban (Windows-os környezetben "hivatalosan" nem lehet ProRes-t írni, ezért az utóbbi eset).

Jó lenne, ha a forgatott anyagot (annak az egyik mentését) egy (vagy minél kevesebb) kötetként kezelni, azaz "megszabadulni" az önálló diszkekre mentéstől, és esetlegesen mondjuk RAID5-ben tárolni.

Amik eszembe jutottak:
- valamilyen NAS, ekkor gyakorlatilag semmilyen "extra" szolgáltatást nem használnék, és ezt így luxusnak tartanám, de az az előnye meglenne, hogy esetlegesen bővíthető,
- valamilyen igazából NAS-hoz tervezett, de önmagában kezelhető külső házas megoldás, pld. QNAP TR-004, ebbe talán(?) beleférne 4 darab 10 TB-os diszk, azaz egy egységben 30 TB lenne a "hasznos", meg kellene 1 tartalék diszk is egységenként. Ha az első egység betelik, akkor lekapcsolom, és veszem a következőt (vagy kiveszem diszkeket). Ami nem derül ki számomra, hogy valójában mekkora diszkeket tud kezelni. Hátránya lehet, hogy kellene egy tartalék eszköz,
- valamilyen erre a célra tervezett, sok lemezes külső ház, pld. ICY BOX IB-3680SU3, ekkor nincs RAID, csak JBOD, itt is felmerül a tartalék eszköz kérdése (de lehet, hogy ezzel nem foglalkoznék, mert ugye lenne 2 másik mentésem),
- hasonló az előzőhöz, de RAID támogatással, pld. ICY BOX IB-RD3680SU3, de itt nem tudom értelmezni a 2xRAID5-öt, ez azt jelenti, hogy a 8 lemezt, 2 darab 4 lemezes RAID5 tömbnek látnám, azaz 2 kötet lenne?
- vagy veszek pld. Z400 munkaállomásokat, vagy hasonló régebbi gépeket (30 EFt-ért már kapható Z400-as), és belerakok 4 diszket, Windows alatt IRST-vel szoftveres RAID-et csinálnék, tudtommal az IRST 4 diszket tud lekezelni, de itt sem találtam információt, hogy mekkorákat, ha betelik az egyik "gép", akkor lekapcsolom (a hálózatról), és veszem a következőt,
- hasonló az előbbihez, de veszek RAID kártyá(ka)t, azaz hardveres RAID-et csinálok,
- vagy veszek valamilyen szervert, pld. DELL POWEREDGE T320, ekkor "kellene" egy tartalák H710-es vezérlő, ill. nem világos számomra, hogy az mekkora diszkeket kezel, lehet-e mind a 8-at egy kötetként kezelni, vagy ez OS függő, stb.?
- nem tudom, hogy valamilyen storage szóba jöhet-e (nem értek hozzá), kell-e szerver egy pld. DELL EQUALLOGIC PS3000XV SERIES 3.6TB SAS-hez, vagy "önmagában" használható, vagy eleve "zsákutca", mert a 3,6 TB azt jelenti, hogy 12x300 GB-os diszket tud maximálisan kezelni?
- vagy...

"Nyilván" elsősorban anyagilag szeretném optimalizálni, azaz 1TB tárolását minél kevesebb pénzből megoldani.

A helyzetet "bonyolítja", hogy "elöző" évről van "sok" 3TB-os diszkem, amiket szeretnék esetlegesen felhasználni, de ez másodlagos szempont.

"Beüzemeltetésért" fizetnék is, ha arról van szó.

Minden hozzászólást (a kioktatást is) előre is köszönök,

ps.: vannak erre a célra profi megoldások (pld. LaCie 12big Thunderbolt 3 72TB (7200RPM) Enterprise HDD), de számomra megfizethetetlenek, még hosszú távú beruházásként is.

  • 3496 megtekintés

( andrej_ v | 2019. 06. 27., cs – 00:29 )

Igazából a kérdés az, hogy mennyi adatod lesz 5 év múlva? Egy eszköz kell, vagy inkább sok eszköz és akár mindenféle cluster nélkül csak valami katalogizálás alapján pakolod a cuccokat...

Sokkal inkább sokdiszkes (6-8-10, synologyban vannak tökjók) vonalra lőnék és a RAID1+0 irányában keresném megoldást (gyors írás és gyors olvasás), 8-10T-s diszkekkel.

Ha van _sok_ hely és zseton, akkor valamilyen CEPH clusteren is lehet gondolkodni, de az aztán különösen szakit igényel.

A másik nagy kérdés, hogy mennyire lesz egy readonly történet és mennyire kell akárcsak havonta 1x is valami extra mentést csinálni valahova róla. Azt mindenképp érdemes szem előtt tartani, hogy nem az eszköznek, hanem a megoldandó problémának van egy optimális megoldási költsége. Ezt vagy egyből nagyjából elköltöd (de minimum betervezed rá) vagy az elsőre olcsónak tűnőre később mindenképp minimum annyit kell költeni, és még sok más egyéb gondot is rádzúdít.

Egyébként a filléreskedésről le kell szoktatni az arra hajlamosakat, ne hagyd magad.

köszönöm a választ,

Igazából a kérdés az, hogy mennyi adatod lesz 5 év múlva? Egy eszköz kell, vagy inkább sok eszköz és akár mindenféle cluster nélkül csak valami katalogizálás alapján pakolod a cuccokat...
miután adásba került a "film", utána általában csak az kerül megőrzésre (archiválásra),
játékfilm esetén szokás LTO-ra menteni a forgatott anyagot is,
a "logikailag" egy eszköz azért lenne jó, mert most úgy csinálom a konformot - a fényelésre kiadást -, hogy a vágóprogramból kiírok egy ún. EDL listát, azt lerendezem ill. "leszűröm" a fájlnevekre, majd egy "uniq"-kal "törlöm" az ismétlődéseket, és az így kapott lista alapján 1 diszkre másolom a szükséges felvételeket, és csak ezeket hívom be a fényelő program ingyenes változatába... (hogy ne kelljen a teljes 50-60 TB-ot beolvasni, bár vélhetőleg bírná a program)

Sokkal inkább sokdiszkes (6-8-10, synologyban vannak tökjók) vonalra lőnék és a RAID1+0 irányában keresném megoldást (gyors írás és gyors olvasás), 8-10T-s diszkekkel.
eddigi (sok éves) tapasztalat alapján nincs szükség "ekkora" sebességre, mert a vágó az ún. offline-t vágja, ami általában max. 120 Mbps-es (persze sok kamerás felvételnél, mondjuk 4 ember "beszélget", és mindegyiken "van" egy kamera, továbbá egy totál, akkor 5 kamerát kell "nézni" egyszerre, de az általánosan használt vágóprogram, az Avid Media Composer "bírja" ezt viszonylag "gyenge" hardver esetén is),
a Synology "vonalat" néztem már... az egyik jelölt...

A másik nagy kérdés, hogy mennyire lesz egy readonly történet és mennyire kell akárcsak havonta 1x is valami extra mentést csinálni valahova róla.
extra mentésre "nincs szükség", vagyis magát a a vágó program projektjét szokás naponta is menteni, és feltölteni valahová,
az ún. offline, tehát amiből dolgozik a vágó, abból általában van egy másolat, esetlegesen a vágóasszisztensnél, hogy bármikor ő is rá tudjon nézni, ha valami galiba lenne,
a muszterből (a forgatottból) az utolsó forgatási nap után készül 2-3 másolat, különböző helyeken tárolva, és ahhoz legközelebb a picture lock után (ami pár hónap) kell nyúlni, mikor kiadja a vágott anyagot az ember fényelésre, ezen másolatok valamelyikére keresek "extra" megoldást,

Egyébként a filléreskedésről le kell szoktatni az arra hajlamosakat, ne hagyd magad.
alkalmanként az ún. utómunka supervisor véleményét ki szokták kérni, ő ráhatással lehet a szükséges hardveres háttérre, de jelen esetben (egy 10 részes sorozatot kezdek el nemsokára) nincs ráhatásom, idáig is "jól" működött a csinálok 2 mentést "belső" diszkekre, amelyeket dokkolóban "pakolászom" (ill. mivel b.sz.r. vagyok "magamnak" egy harmadikat), amiből az egyik a gyártáshoz kerül, a másik kettő meg nálam marad, csak "zavar" a negyven darab belső diszk, erre keresnék valamilyen "dobozolós" megoldást,

lehet, hogy túl lihegem, meg nem vagyok normális, hogy ilyenre költenék (vállalkozóként vállalom a munkát), de nincs gyerekem, meg nem gyűjtök 114060-asra, ezért "megengedhetem" magamnak, hogy a bevétel nagy részét elköltsem erre,

Látom írtad a 1817+-t, mi olyat 6T-s WD Red Pro-kkal használunk és mentésre bevált.

Sebesség ügyben egy SATA-s RAID1+0 ott is sokat segíthet, ha egyszerre többmindent akarsz rámásolni, de 1-2Gbit/sec-et röhögve kitol SMB/CIFS-sel és persze nagy file-okkal. A sebesség mellett nagy diszkeknél a redundancia sem utolsó, mert a sokdiszkes RAID5/6-ból ha kihullik a 10T-s vinyód, akkor ott a szinkronkor lesz esélyed még diszk halálra... Még ha pótolható is az adat, az okozott kiesés valszin napokban lesz mérhető mire újra összeáll a történet. Én már öreg vagyok ahhoz, hogy bevállaljam ezt, mindenhova szórom a RAID1+0-ákat, hadszóljon alapon, sőt olyan is volt, ahol pont az a minimális plusz kellett, hogy a RAID5/6 késleltetése, számolgatása és a kicsivel több iops miatt a RAID1+0 vált be. A HDD és SSD árak nem mondom, hogy a padlón vannak, de minden más költséghez képest relatív kicsik.

( Fisher v | 2019. 06. 27., cs – 05:47 )

A testvérem hasonló cipőben jár(t) pár éve, akkor egy synology NAS-t javasoltam neki, hogy ne kelljen szopniuk. Attól eltekintve hogy a frissen érkezett cuccból az első nap kidőlt kb. a fele disk, amit a szállító kb. azonnal cserélt, évekig nem volt gondjuk vele. Olyan 5-6 év után feküdt ki a cuccban maga az alaplap (illetve azon valami).

Most se javasolnék mást.

( tompos v | 2019. 06. 27., cs – 05:58 )

Amikor filmgyartasban dolgoztam, zfs-t hasznaltunk erre. Most is azt csinalnam.

Le tudnad irni vhogy user story formajaban, hogy mit akarsz *elerni*?
Vagy pl. azt legalabb, hogy mik a kriteriumok?

Fontos, hogy szakadj el attol, hogy milyen megoldasok jutottak az eszedbe, hanem azt fogalmazd meg, mi az, amire *szukseged* van es azt prioritasosan meg tudd fogalmazni, hogy majd amikor kompromisszumot kell kotnod, ott legyen mozgastered.

Ilyenekre gondolok:

- en/nem en akarom megcsinalni
- en/nem en akarom uzemeltetni
- X nap/ora/het kiesest visel el a user
- ennyi penzem van ra max
- megogalmazni, hogy mennyit er neked az adatbiztonsag
- feltoltes sebessege legyen min. ennyi (toltson fel 3TB-os HDD-t X ora alatt)
- letoltes sebsssege legyen min. ennyi (online tudjak rola dolgozni a Gbit-es halozaton az videoszerkesztommel)
- a kleinsek windows-ok, azoknak kell elerniuk
- apple kliensek is vannak, de kevesbe lenyegesek es csak readonly erik el

stb.

Keress meg maganban, ha szukseged van segitsegre. De azt mar nem ingyert:)
Nem nagy dolog osszerakni egy ilyet, de nagyon el lehet szallni anyagilag es technologiailag is, meg el lehet vinni rossz iranyba, ami csak szopatni fog hosszu tavon.

Illetve, ami még kicsit zavaros az eredeti leírásban és pontosításra szorul:

- Valamilyen színten hordozhatónak/átadhatónak kell lenni az adatoknak (NAS-ból vinyók ki, elrak/elszállít, másik eszközbe betesz nem működik)
- Hány gépről és milyen protokolon szeretnéd egyszerre használni? (TB, vagy hálózaton Samba, iSCSI jöhet szóba)
- Milyen rendszerismereteid vannak az üzemeltetéséhez? (Linux, Windows?)

Részemről mindenképpen telepített, helyhez kötött rendszerben gondolkozva én dobnám a kis asztali SoHo NAS-okat és egy 12 disk bay-es Dell PowerEdge Rack szerverre húznék Linuxot vagy HW Raid 6(+0)-al, de akkor max. 4TB disk-ekkel (a fentebb már említett raid rebuild kockázat miatt), vagy ZFS-t RaidZ2-ben és 10Gb etherneten (nem a sebesség, hanem a latency miatt) inkább iSCSI-n, mint Sambán kiajánlva dedikáltan 1 gépnek.

Nem lenne rossz egy Equalogic storage sem (full redundáns), csak azokkal az a baj, hogy nem támogatják az olcsó, nagy diskeket :(

----------------------------------^v--------------------------------------
"Probléma esetén nyomják meg a piros gombot és nyugodjanak békében!"

neked is köszönöm, hogy válaszoltál, igazad van, először az igényeket kell pontosabban megfogalmazni...

bocsánat, egy kicsit hosszú lesz...

mire van szükségem?

windows-os környezetben dolgozom, több különálló gépet használok, jelenleg nincs kiépített hálózat,

az elkövetkező 4 hónapban, kb. 60 napban minden este kapok egy HFS-re formázott diszket, amin van Thunderbolt 2 és USB 3(.1?) port, kb. 1 TB-nyi anyaggal, kb. 200 fájlal, többségük mérete GB-os nagyságrendű, minden fájlhoz van valamilyen hash számoltatva, vélhetőleg xxHash64 lesz,
erről készítek 2 backupot, két különböző gépen (nyilván nem egyidőben, az USB3-ról olvasva), dokkolóba helyezett (vagy eSATA-n csatlakoztatott) "belső" diszkekre, a másolás után ellenőrzöm a hash-eket, ez idáig megoldott, azaz időben "belefér" a jelenlegi helyzet szerint is,

készítenék egy harmadik másolatot (valójában ezzel kezdem) egy NAS-ra/szerverre/..., aminél elvárt, hogy legalább 80 Mbps sebességgel menjen, tehát kb. 3 óra alatt lemenjen ez a másolás, (mint írtam egyelőre nincs hálózat, de max. gigabitest tudok megoldani, ehhez "lőttem be" az igényt, de nyilván az lenne a jó, ha közvetlenül tudnék a TB2-es, vagy az USB3-as portról másolni, tehát nem hálózaton keresztül, nyilván, ha lenne 10Gb, akkor "más lenne a felállás")

mikor megvan az utóbbi másolás (valójában az első), akkor transzkódolok belőle ún. "offline" anyagot, most DNxHD36-ot, itt megint elvárom, hogy max. 4-5 óra alatt lemenjen, de ez valójában a transzkódolásra használt géptől függ, "nem" a (egy gigabites) hálozat sebességétől, (a transzkódolást egy szabad (a "legerősebb") gépen végzem, nem azokon amelyiken megy a további, "hagyományos" másolás), a transzkódolás nem a NAS-ra/szerverre menne, hanem egy belső SSD-re azon a gépen, amelyiken transzkódolok,
ennél a harmadik másolásnál nem szükséges hash-t számolni, mert a transzkódolásnál úgyis kibukna, ha másolási hiba történt, de azért ezt is megcsinálnám,

a transzkódolt anyagot előkészítem a vágónak, azaz összecsapózom a képet a hanggal, rendszerezem, beírom a szkriptes megjegyzéseit, stb. és reggel-délelőtt eljuttatom ezt az anyagot (tehát az "offline"-t, ami kb. 50-80 GB) a vágónak (biciklivel elviszem neki egy SSD-n, ez jelenleg a leggyorsabb, mert "viszonylag közel" lakik hozzám),

mikor letelt a kb. 60 nap, azaz az összes anyag mentésre került, és én mindent "átadtam" a vágónak, utána kb. másfél-két hónap "pihi" van (remélhetőleg más munkán dolgozom), azaz ez idő alatt a NAS-nak/szervernek nem kell mennie, (a vágó már a 60 nap alatt is dolgozik, minden délután az aznap kapott anyaggal),

eljön az ún, picture lock ideje, mikor az első részt képileg elfogadták, idáig az volt a felállás, hogy leválogattam a 20 darab diszkről (kb. ennyi diszkre fért fel egy backup) az első részhez tartozó anyagot egy újabb belső diszkre, majd abból a fényelőnek készítettem egy ún. konformot, most el szeretném a kézi leválogatást kerülni, azaz az összes forgatott anyagot beolvasnám a fényelő programba, itt ismét megelégednék a kb. 80 Mbps-es "hozzáféréssel",
ez hetenként megtörténik, hetenként kell leadni 1-1 epizódot, nekem még lesz munkám vele, miután megkaptam a fényelt képet, kevert hangot, de ahhoz nem kell a NAS/szerver,
azaz ebben az etapban, (tíz héten keresztül) hetente kb. 3 órát kell a NAS-nak/szervernek mennie,

miután az összes rész leadásra került, letörölném a NAS-on/szerveren levő anyagot, és jöhet az újabb munka...

a NAS/szerver az otthonomba lenne elhelyezve, sajnos elég "vizes" a lakás, hiába szellőztetek sokat, meg hiába megy a páramentesítő, klíma nincsen, és nem is lesz,
szünetmentes van, de egyelőre csak egy kicsi,

én szeretném "összerakni"/"üzemeltetni" a rendszert, de lehet, hogy kevés vagyok hozzá (legalábbis az összerakáshoz, ha nem egy "kész megoldást" választok)
a NAS/szerver "széteshet", mert van 2 további másolat, de jó lenne, ha azokhoz nem kellene nyúlni, azaz az első opció az lenne, ha a "széteső" RAID5/6-os tömb 2 nap alatt helyreállna, (bár a RAID5-ről sok embertől hallotam, hogy ha 1 diszk kiesik, akkor sokszor egy második is, mielőtt helyreállna, emiatt nem ajánlott)
a diszk árakat figyelembe véve max. 1 MFt lenne rá (mivel évekre szóló beruházásnak tekintem), de jelenleg nincs ennyi pénzem, azaz inkább egy "skálázható" megoldás érdekelne, ill. írtam, hogy sok 3 TB-os (SATA) diszkem van (kb. 13-15-öt áll "üresen"), de nem hinném, hogy ezekre lehet építeni...
az adatbiztonság minden pénzt megér, mert ha mindegyik backup megsérülne, abból elég nagy baj lenne (attól függetlenül, hogy akkor az említett offline lenne felhasználva, azaz nem dőlne össze a világ, csak ...)

nem kell a forgatott anyagnak (a NAS-nak/szervernek) hordozhatónak lenni,
egyszerre 1 gépről használnám (a "munkás" gépemen van TB2-es, de sosem használtam),
"nincsenek" üzemeltetési ismereteim (bár volt szerencsém IRIX-os gépen is dolgozni, meg OpenSTEP-esen is... de ez nem számít)

nyilván fizetnék a szolgáltatás "üzembe helyezéséért", de nem várnám el a 24/7-es rendelkezésre állást, főleg azért nem, mert nem tudnám megfizetni,

egyelőre várakozó állásponton vagyok, az anyagiak miatt is, illetve még nincsen aláírt szerződésem, azaz még bármi megtörténhet...

( turban | 2019. 06. 27., cs – 10:41 )

Az én gondolatmenetem:

A cél a 60 TB tárkapacitás, egyben, de nézzük meg a köztes lehetőségeket is.

Jelenleg a 60TB tárhelyet 20 db, 3TB HDD-vel oldod meg úgy, hogy dokkolóval kezeled a lemezeket.

A legegyszerűbb optimalizálás, ha veszel 10TB-os diszkeket, és azokat használod a jelenlegi workflow-al, a dokkolóval. Akkor 20 diszk helyett, csak 8-at kell pakolgatni. :)

Mennyibe kerül 1TB tárhelykapacitás HDD-n?
10TB HDD kb. 110 000 Ft => 1TB - 11 000 Ft
3TB HDD kb. 30 000 Ft => 1TB - 10 000 Ft

A NAS jó megoldás lehet, ha a workflow annyi, hogy
- egy időre szeretnél 60TB adatot együtt látni (ahova, mondjuk dokkolóról átmásolod a fájlokat a NAS-ra), aztán
- amikor lement a projekt, akkor kihelyezed őket más tárhelyre, hogy
- a következő 60TB anyagot felmásolhasd a NAS-ra.

Az úgy nem működik a NAS-nál, hogy most beteszek 8 lemezt, és ha megtelik, akkor kiveszem, és teszek helyette újabb 8-at és folytatom a másolgatást...

Viszont, ha több másolatod van, akkor a NAS konfigurációja lehet RAID0, és a teljes kapacítást kihasználtad.
Ha viszont a NAS adta lehetőségeket ki szeretnéd használni (hogy az adatokat redundásak legyenek, és kiváltod vele az egyik jelenlegi biztonsági mentést), akkor RAID5, vagy ZFS esetén plusz kapacitás szükségeltetik. Azaz pl. RAID5-ben 8db 10TB HDD ad neked 70TB tárkapacitást (és nem 80TB-ot).

Konklúzió:
- vagy veszel a jelenlegi workflow-hoz 6 db 10TB HDD-t (és kevesebb lemezt kell dokkolni),
- vagy veszel egy 8 diszkes (8 bay) NAS tárolót, amibe veszel 6 db 10TB HDD-t, RAID0 konfiggal.
- vagy veszel egy 8 diszkes (8 bay) NAS tárolót, amibe veszel 8 db 10TB HDD-t, RAID5, ZFS vagy hasonló konfiggal.
- ha spórolni akarsz a diszkeken (azaz felhasználni a rengeteg 3TB diszket), akkor veszel 2db 12-lemezes nas-t. (itt hibádzik annyit a dolog, hogy nem egyben van az egész, hanem kettő kötetben.)

A 8 diszkes NAS-ok kb. 400 000 Ft-tól indulnak + 6-8db 10TB diszk => kb. 1-1,2 millió Ft.
A 2db 12 diszkes NAS kb. 800 000 Ft, és bele teszel 24db 3TB diszket RAID5, vagy ZFS-be.

ui.: a pc-ből diy nas-okra nem tértem ki. az nem tudom, mennyire opció, de nem biztos, hogy ekkora méretnél olyat akarsz (de nem lehetetlen :) ).

( Jason v | 2019. 06. 27., cs – 11:30 )

Valami cloud?
Dropbox Enterprise pl, tudsz egyedi ajánlatot kérni a usecase-edre, és a GDrive/OneDrive-val ellentétben adnak 10 TB/user felett tárhelyet.

( p2pking | 2019. 06. 27., cs – 12:45 )

En hogyan csinaltam ?

Fogtam desktopot osszeraktam, ment bele dell ami egyebkent LSI sas kartya IT mod 2x4 atalakito, megpakol diszkkel raid 5 lvm xfs melle gdrive /ami ha jol csinalod havi 10$ es unlimited/ sync .

Tartossagarol fogalmam sincs meg csak 5-6 eve megy. 7/24 leszamitva a rebootokat meg neha a szerelgetest mint + uj memoria, cpu csere etc...

( gyuri23 | 2019. 06. 27., cs – 12:56 )

Én ezzel: 89384 Delock PCI Express x2 Card ami <40e ft ( https://www.delock.de/produkte/G_89384/merkmale.html?setLanguage=en ) egy "mezei" destokp alaplapon elértem 10 db gagyi lemezzel (3-8 éves kevert mindenféle maradék, még 5200-es is volt benne) 300 MB/s feletti io sebességet ZFS-el. Ehhez kell még egy jó hálókártya, meg egy olyan ház amibe sok lemez fér.
Ha nem akarsz legózni Synology +1.

+1, ha olcsón kell, akkor én is "háztartási" hardverrel csinálnám meg, és építenék belőle kettőt, vagy hármat a redundancia kedvéért. Valami jó rugalmas fájlrendszert kell rátenni, ami alatt lehet diszket cserélni, ha kell.

(Bár a legegyszerűbb, ha hiba esetén a redundáns dobozt használod, a hibázó vasat pedig diszk csere után újrahúzod nulláról. Így nem kell semmi redundanciával sem szórakozni. Egyszerűen a köteteket össze kell fűzni egybe, és arra tenni FS-t. Tuti meg lehet valahogy csinálni Linux-szal vagy BSD-vel.)

Ami számomra nem derült ki a leírásból az az, hogy milyen tyúkbélen közlekedik az adat? Neten keresztül is el kell érni, vagy mindig szállítod a dobozt oda, ahova kell? Ilyen adatmennyiségnél a másolás ideje nem lesz kevés. Számításaim szerint 1GBit-en 5TB 11 órán keresztül csorogna át ( 5000÷0.125÷60÷60 = 11.1111 ), ha az 1GBit nettó adat lenne. Most hogy van a sávszélesség/idő kérdés?

Mert ha szállítod, akkor számolni kell azzal, hogy a mechanikai hatások is öregítik, meg hogy olyat kell építeni, amit könnyű szállítani. Mondjuk egy normálisabb toronyba betett 6-10 diszket szerintem még lehet emelgetni könnyen, szóval az egyedileg épített tároló gép jó lehet.

( ggallo | 2019. 06. 27., cs – 16:57 )

Ha jól értem, akkor nem mission critical ez a tárolási igény, és a legfontosabb szempont, hogy a saját életed könnyítsd meg vele, mert a többieket nem igazán érdekli, hogyan oldod meg a Rád eső munkát, csak meg legyen oldva.

Az előttem szólóknak igaza van abban, hogy a legegyszerűbben Synology eszközökkel tudod megoldani (az itthon könnyen elérhető kínálatból). De azt szerintem sokan nem nézik, hogy ez mibe kerül, és a megoldandó feladat lehet nem ér annyit (második vagy harmadik biztonsági másolat tárolása).

Ha veszel pl. egy legolcsóbb 8 lemezes DS-1817-et, az kb. 330 ezer Ft üresen. Ebben nem jó a meglévő szett 3 TB-os HDD, mert kevés lesz a kapacitás, így kell bele egy sor (8 db) 10TB-os HDD (10TB/db esetén legalább RAID6 kell, így 60TB hasznos plusz 20TB parity felosztás lesz a 8 db), ami további 760 ezer Ft. Tehát kb. bő 1 millió. De kicsi helyet foglal, aránylag keveset fogyaszt, és felhasználói ismeretekkel is beüzemelhető. Sajna a HDD-k kicserélése egy másik garnitúrára (úgy, hogy oda-vissza cserélhető legyen) az nem járható, nem erre van kitalálva.

A másik út Synology-val, hogy veszel egy 12 lemezes modellt, plusz egy 12 lemezes bővítőt, és ebbe berakod a meglévő 3TB-os HDD-ket. A legolcsóbb desktop 12 lemezes modell a DS-2419+ 570 ezer Ft-ért, a hozzá való legolcsóbb 12 lemezes bővítő a DX-1215, további 338 ezer Ft-ért. Megint 1 milliónál járunk, de el vannak használva a meglévő lemezek, és desktop jellegű a kiépítés.

Viszont ha volna kedved kicsit barkácsolni (vagy valakivel megcsináltatni), és el tudsz képzelni nem-desktop kivitelű rendszert, akkor én bátorkodom javasolni használt 12 HDD helyes szerver beszerzését (,esetleg hozzá egy szintén használt 12 lemezes JBOD dobozt), és FreeNAS-sal telepítve elhasználni a meglévő vagy új lemezeket ebben. Egy ilyen rendszer további JBOD dobozokkal majdnem tetszőlegesen bővíthető, az előző árakhoz képest "fillérekért", és pl. meg tudod oldani, hogy a garnitúra lemezt kiveszed, egy másik garnitúrát beteszel, és használod, majd ha a kivettre szükség van, akkor újra megcsinálod a cserét, és már használhatod is.

Egy használt Dell PE 720XD 12 LFF szerver (olyan konfiggal ami ennek a feladatnak megfelel) durván 150 ezer Ft egy év garival, hozzá 12 db 6TB-os új HDD (RAID6-hoz, 60TB hasznos kapacitással) 570 ezer Ft.
Használt 2U 12 LFF JBOD házak 120 ezer Ft-tól elérhetőek (10 perc Google-t szántam rá, lehet van olcsóbban is). Ilyen felhasználásával a meglévő 3TB-os lemezekből is megépíthető a kötet az új 6TB-os lemezek helyett.
Más kérdés, hogy erről akár dolgozhatsz is, nem csak archiválást képes kiszolgálni. 24 lemezzel, RAID60 jellegű felállásban eléggé jó írási-olvasási teljesítményt ad (akár 10 GbE is mehet bele, nem lesz felesleges), 3 TB-os diszkekkek ~60 TB hasznos kapacitással, 4 HDD megengedhető hiba mellett.
Tény, hogy ilyen szerverből épített megoldás több hozzáértést igényel, nagyobb helyet foglal, többet fogyaszt, hangosabb. Ezt is számításba kell venni. És nem új (de mondjuk legalább garis). Plusz az UPS is kicsit masszívabb kell legyen, mint a Synology-k alá passzoló.

Szerintem magadnak mondasz ellent:

"De azt szerintem sokan nem nézik, hogy ez mibe kerül, " (Syno) vs. "Tény, hogy ilyen szerverből épített megoldás több hozzáértést igényel, nagyobb helyet foglal, többet fogyaszt, hangosabb. Ezt is számításba kell venni. És nem új (de mondjuk legalább garis). Plusz az UPS is kicsit masszívabb kell legyen, mint a Synology-k alá passzoló."

Namost akkor melyik a jobb. :) Csak az áramos vonalon egy kb. 100W-os extra fogyasztás az kb. 5e huf havonta. Ha már duplatáp, akkor illene két UPS-t venni, de ez mondjuk ellent mond annak, hogy nem kritikus a történet. Diszk vonalon pont a 6T-set én nem javasolnám ha sok hely kell, mert a 8-10T-sek már héliumos teknyikával mennek és kevésbé melegedős, kevesebbet fogyasztósak (pláne ha hasonló kapacitáshoz néhánnyal kevesebb kell). Szerintem ha beleszámolod a költségvetésbe a szerver összelegozását, elhelyezését (akár saját rackben a "sufniban"), diszkek beszerzését és a telepítésre jutó (akár saját) munkadíjat és utána a karbantartásét, akkor messze jobban jön ki a Syno.

Hirtelen egy akciósnak jelölt Dell PE 720XD 12 LFF 149e+áfa-ért, a Syno 1819+ (ami a 1817+-t váltotta) nettó 280 körül van. Ami tényleg húzósabb, az a 2419+, de az 24 diszket eszik és teljesen feltöltve is 100W körüli fogyasztást ír rá a Syno oldala.

Valóban van pro és kontra. De a meglévő diszkekkel számolva a használt szerveres megoldás nettó 300e alatt elindítható (24 diszkes modellben). Ugyan ez egyik Synology megoldásról sem mondható el, mind sokkal több pénz indulásképp.
A megspórolt pénz egy része fedezi a felállítási és az üzemeltetési költségek különbségét.
Plusz a diszk-csomag csere lehetősége, amit én úgy értettem, fontos lenne.

De nyilván egy ilyen feladatot alaposabb átbeszélés és elemzés után szabad csak megvalósítani. A megbeszélés során a sima tárolástól akár másfelé is elmehet a projekt a lehetőségeket és az igényeket egyeztetve.

Pont az a lényeg, hogy a Synonál, hogy very minimális bármilyen indulási költség. Bekapcsolod, minimálisan konfigolsz és go. Ráadásul mindezt relatív kényelmesen weben klikkelve, a Samba és társai mélylélektanától és a későbbi OS frissítések nyűgje nélkül. Ezután szerintem rögtön a második, hogy áramfogyasztáson pár hónap alatt elmegy a kezdeti spórolás.

( Rt711 v | 2019. 06. 27., cs – 19:42 )

AWS storage gateway erre van.
https://aws.amazon.com/storagegateway/features/

Ebből két opció elérhető : Volume Gateway -ez iSCSI -t tud és a volume kerül S3-ba verziózva (cache mode: 32 volume, egyenként 32TB és összesen 1PB maximum volume méret, stored 16TB a tárhely), a File Gateway -nél pedig van SMB/NFS protokoll, az egyes objektumok maximum mérete 5TB.
A backup időzített (napközben nem eszi meg a sávszéled), valamint elérhető AWS-ből EBS snapshot után. Ez utóbbit akár másik országba, vagy földrészre is küldheted ha szükséges.

Ha már S3, akkor megnézném hogy mondjuk lifecycle policy-vel glacier-be mozgatással mennyit spórolsz. Glacier kifejezetten olcsó tárhely olyan objektumok számára amiket ritkán érsz el, és tudsz várni a visszaállításra (van gyorsított, de azt most hagyjuk).

S3-nál kevesebb karbantartást aligha tud más storage. Komolyan nézz utána, rohadt sok pénzt spórolhatsz meg.

-

Az S3 / glacier az tenyleg kurva jo es gondozasmentes, csak ne kelljen adat onnan vissza.
A Glacier-ben tarolni kurva olcso ( asszem a legolcsobb az osszes felhos dolog kozul), de ha valamit vissza kell hozni akkor mar kemenyen kell erte fizetni.

A S3 nem a legolcsobb (az azure blob olcsobb nala), de mindegy, hogy melyik felhos megoldast valasztja, a kimeno adatforgalomert fizetni kell (azaz amikor letolti a gepere az adatot), es ekkora nagysagrenben boven tobb mint maga a tarolas koltsege.

( khiraly | 2019. 06. 28., p – 14:17 )

offtopic:
Azt figyeltem meg, hogyha egy hagyomanyos porgos diszket hosszabb ideig nem kapcsolok be, akkor az adatok jo resze kuka (read/write error).
(1+ev).

De ez csak megerzes, de mar 5db 2.5" 500Gb, 1TB, 2TB-os diszkkel is elojott.

Valaki tud errol bovebbet (mennyi idonkent kellene bekapcsolni egy hdd-t, stb).

---
Saying a programming language is good because it works on all platforms is like saying anal sex is good because it works on all genders....

Itt az a felvetés, hogy "van egy olyan szabályszerűség". Én hoztam a saját ellenpéldámat, ergó nincs ilyen szabályszerűség. Lehetne persze a teóriát tovább szűkíteni (csak X otthonában történik ilyen, csak az Y gyártó termékeivel történik ilyen, negatív földsugárzás is kell hozzá, stb.)...

Vannak tizenéves diszkjeim a polcon. A legrégebbit konkrétan 15+ év elteltével kapcsoltam be újra, és az egészet el lehetett olvasni (kellett róla valami, és ha már beindítottam, le is mentettem az egész tartalmát).

Más elfekvő diszkeket is be szoktam néha-néha kapcsolni, mondjuk 2-5 évente egyszer. Egyikkel sem volt hasonló problémám, hogy amikor lerakom, még megy, aztán x év után meg már nem olvasható.

A merevlemezen tarolt adatok ugyanugy veszitenek a magneses erejukbol, mint ahogy az akkumulatorok az elektromos tolteseikbol.

Ezt a szajhagyomany normal merevlemezekre 5evet mond.
Azaz 5evente fel kell porgetni, hogy ne seruljenek az adatok.

En 2.5" laptopvinyokrol (es hordozhato kulso vinyokrol) beszeltem. Ott a 2 ev lehet nem elrugaszkodott elkepzeles.

De siman lehet, hogy mindegyik rossz szeria, es mas baja van. (read write error tomkelege dmesgben).

Ezt mar "utanaolvasva" irom. Szoval de, van shelf life-juk, igaz nem egy-ket ev.

---
Saying a programming language is good because it works on all platforms is like saying anal sex is good because it works on all genders....

Szerintem sokkal reálisabb az, hogy konkrétan szar diszkekről beszélünk.
Már csak azért is, mert a felpörgetés semmit nem oldana meg az általad leírt problémából, ha igaz lenne ez az elmélet, hiszen a diszk olvasáskor nem (sem) írja újra (frissíti fel) az ott levő adatokat.

Nekem is volt egy darab olyan diszkem, amit egyszer régen felraktam a polcra (kb. 2000 környékén volt utoljára bekapcsolva), aztán szintén 10+ évvel később el sem indult. Viszont pontosan tudom, hogy ez egy olyan diszk modell (Quantum Atlas), ami kurrens korában is hajlamos volt a meggurnyadásra, konkrétan kettő ilyet is elvesztettünk futó szerverben annó, és a fórumokon is nagyon rossz híre volt.

Nyilván tipus/technológia függő, de az újabbaknál egyre inkább elő fog fordulni az a jelenség, hogy ha sokáig nincsenek használatban, akkor utána nehézséget fog okozni a visszaolvasásuk.

Nem a "felpörgetéstől" mágneseződik újra a diszk, hanem az újabbak firmwarejében szépen bele van kódolva, hogy időnként menjen végig "idle" módban a régen használt felületeken és irja újra őket. Ezt lehet is hallani a mai nagyobb (8TB+) diszkeknél, hogy ha semmi irás-olvasás nem történik rajta, akkor is szépen seekelget végig a fej a felületen és frissiti az adattároló réteget.

Szóval nem hülyeség ez. Nyilván nem a marha régi, párszáz megás/gigás merevlemezeket érinti főleg, hanem az újabb, több terás diszkeket, ahol már nagyon kis felületen van hatalmas adatmennyiség eltárolva és mindenféle trükkökhöz folyamodnak egyébként is a gyártók, hogy egyáltalán rögziteni és visszaolvasni tudják az egymás melletti sávokon lévő adatokat (lásd SMR "zsindelyezős" rögzités, meg HAMR "hevitéses" technológiák és társaik).

( uid_18313 | 2019. 06. 29., szo – 01:46 )

mindenkinek köszönöm a tanácsokat, azoknak is, akiknek a hozzászólására nem reagáltam...

Nem olvastam végig minden hozzászólást igy elnézést ha volt már
Kisipari megoldás lehet valami jobb NAS Windows Storeage Serverrel (vagy bármelyik Windows Server tudja) a cimben leirt funkciót "automatikusan"
A storeage spaces környékén kell nézelödni hot and cold data témakörben
(Minden bizonnyal Linux Server világában is létezik ilyen funkció)

Zolee001