Lokális tárhely bérlet (2x21TB elhelyezése valahogy)

Üdv!

-Szerkesztve, mert először nem fejtettem ki rendesen.

Adott 2 db QNAP file server. Bennük 8db 3TB diskel. Ez így 2x21TB (RAID5)
Közel 95% kihasználtsággal, videofelvételekkel, amelyeket 45 napig tárolnom kell.

Az eddig használatos program megkövetelte, hogy iSCSIként legyen felcsatlakoztatva.
Azonban ez a megoldás nem működik, így az iSCSIről át kell álnom NFSre, esetleg Sambára.

Cél: iSCSI helyett legyen mezei Samba, vagy NFS, FTP bármi, úgy, hogy a jelenlegi adatok ne vesszenek el.
AFAIK iSCSIről nincs visszalépés, csak adat lement, megformázás és visszamásolás.

Így mivel más megoldást nem találtam tárhelyet keresek. Más járható megoldást is szívesen fogadok.
A tárhelyet természetesen nem ingyen keresem, azonban nem is szeretném kifizetni a 8db 3TB disk árát (mert nincs rá keret).

Felmerült a Cloud mint olyan, de eszméletlen drága, valamint a net sebessége is vicc, évek lennének mire felmennek, lejönnek az adatok.

Így valami olyan megoldást keresek, ami fizikailag helyben van a másolás sebessége miatt.

Hozzászólások

Csak én nem értem, hogy mi köze az iSCSI-nak az ext4-hez?
A fájlokat nem tudod egyesével áthelyezni?
Egyébként meg ekkora tárhelynél csak storage játszik. Azt pedig senki nem fog odaadni még 1 hétre se fillérekért, de ne legyen igazam.

Így már sokkal érthetőbb, hogy mit is akarsz.
Gondolom, a QNAP eszközt nem tudod egyszerre elérni iSCSI-n és NFS/SMB-n keresztül. Mondjuk ha csak 100 MB/s másolással számolok, akkor is 42 TB átmásolása 5 napot vesz igénybe. Szóval inkább 2 hét az a néhány nap. Persze ha az eszköz tud 500-600 MB/s sebességet valamilyen úton(10GE, 4Gb FC, LACP), akkor 2-3 nap alatt végezhetsz az egésszel.
Amúgy mi a baj az iSCSI-val? Lassú?

De megírta, hogy QNAP storage-uk van. Az egy ilyen SATA-s, Linuxos Ethernetes cucc. Leginkább SMB, és nem Enterprise, pl. nincs redundáns vezérlő benne.
A csúcs-übermodell tud opcionálisan 10Gb Ethernetet, az összes többi csak sima mezei 1Gb LAN csatlakozókkal rendelkezik, semmi mással. A készüléket amúgy diszkek nélkül meg lehet venni - ez nem az a kategória, mint amiről beszélsz. Ebből csak úgy lesz FC, ha veszel helyette egy FC-t tudó masinát. De tegyük hozzá, hogy csak egy FC modul egy "rendes" storage-hoz többe kerülne, mint amennyiért egy ilyen készüléket árulnak.

/troll

Hát kell 2x darab 2TB-os külső vinyó!

/troff

Bocs, neked tényleg valami storage kell /vagy kimented szalagra.

„Az adatokat 45 napig kell őrizni.”
„Kb egy hétre kéne ennyi tárhely.”

Beállok az értetlenek sorába. Ezt most akkor hogy?

-----
A kockás zakók és a mellészabások tekintetében kérdezze meg úri szabóját.

Felmerült bennem egy másik logikus megoldás: adott nap adott pillanatában átbillenti a rendszert, hogy az új helyre tegye a felvételeket. A régi tárhelyen új fájl így nem keletkezik. Fenntartja a régi tárhelyet 45 napig, így meg is őrzi őket. 45-50 nap múlva pedig lekapcsolja a régi tárhelyet.
Előnye, hogy nem kell másolni semmit se. Persze storage kell hozzá :)

Ez rossz esetben 90 napra igényel plusz eszközt: 45 nap, mire a meglévő tömbön lévő adatokat ki lehet purgálni, addig megy az ideiglenesre, majd amikor a saját cucc leüríthető, onnantól még 45 nap kell, hogy a kölcsön dobozon lévő adatok is törölhetőek legyenek.
Persze a kölcsön eszközről a frissekkel kezdve időben visszafelé haladva lehet másolni a saját cuccra, és amikor a törlés (kölcsön dobozon a régiek kidobálása) és a visszamásolás "összeér", visszaadható a kölcsön doboz - ha a saját cucc bírja I/O-ban persze.

Backupból töltsd vissza az újrakonfigurált storage-ba, mialatt a rögzítés egy ideiglenes tárterületre megy.

Üdv,
Marci

A cégvezetés felmérte, hogy mekkora kockázat a raid5 meghibásodása. Úgy ítélték meg, hogy azt a kockázatot bevállalják, mert nem éri meg a 40TB mentésébe fektetett összeg. Ebbe a kockázatba nem számolták bele, hogy a rendszergazda dacból kiránt két disket, hogy mindenképp igaza legyen.

Ez az, amiben nem vagyok biztos. Szerintem sokan egyáltalán nincsenek tisztában vele, hogy egy pillanat alatt teljesen véletlenül (ez most nem irónia) semmivé válhat az egész adathalmaz, és ennek nem csak elméleti valószínűsége van. Ha tényleg felmérték volna, akkor például mentenék 1-2 db WD MyBookra a legfontosabb 1-2-3-4 TB-nyi adatot, meg a /etc/-t, vagy ilyesmi. Az abszolút 0 mentés nem arról tanúskodik, hogy bármit felmértek volna. Valaki eladta nekik, hogy a RAID5-tel biztonságban vannak, ők ebben a hitben élnek, és csókolom, aztán ha baj van, hihetetlenül meg fognak lepődni. Simán lehet, hogy abszolút tévedek ebben az esetben, de ez akkor is egy jelenség.

--
joco voltam szevasz

Tisztázzuk, ez így backup nélkül meg RAID5el egy vicc, tudom.Eleinte egy hajszálnyival jobb bolt a helyzet, mivel RAID6 lehetett először, de az utasítás az volt, hogy nagyobb tárhely kell és vállalják a kockázatot, ezért válthattam át RAID5re.
Elmondtam a kockázatokat, részletesen kifejtettem taglaltam. Amire a válasz az volt, hogy megértették, de nincs több keret és ez van.

az az igazság, hogy egy adat védelmére nem érdemes többet költeni, mint amennyibe az adat pótlása kerül.
Például:
Ha a cég mondjuk bukhat adatvesztéskor esetenként mondjuk 200k Ft-ot, akkor nem érdemes három év alatt 1 milliónál többet beleölni egy ennél redundánsabb rendszerbe, mert nem valószínű, hogy ennyi idő alatt 5 ször elfüstöl a teljes cucc.

Nekem errol az a sztori jutott eszembe, amikor egy desktop management referencialatogatason Becsben a kedves helyiektol megkerdeztem: "Hogyan telepitenek kozpontilag olyan alkalmazasokat, aminek nincs .msi telepitoje?" Mire a valasz: "Ilyeneket nem lehet kozpontilag telepiteni."
Az elso gondolatom az volt, hogy azert oldottunk mar meg egy-ket ilyet. A masodik pedig az, hogy "okosabban kene elni...".

Udv,
Marci

Mivel napokig tartana lementeni is, meg visszatölteni is, így nem csak egy backup, hanem egy bazi nagy ideiglenes tárterület is kell. Akárhogy csinálod, ha a készülék nem tud in-place változtatni a struktúrán (márpedig ilyet nem ismerek egyet se, ami iSCSI block device-ból fájlrendszert tud faragni), akkor kell ideiglenes tárterület az adatok átmeneti tárolásához.

Elérámolsz egy szervert, felrántod iscsi-n, aztán továbbtolod NFS-en? Igen, plusz eszköz, plusz hibaforrás, plusz... Viszont ahol ekkora bazi nagy diszkekből kreált raid5 mellé nincs backup, ott ez kevésbé lesz problémás szerintem...

Apró kérdés: volt-e már tesztelve, hogy egy diszk kihullása és cseréje után mennyi idő alatt szinkronizál vissza a cucc? Arra az időre ugyanis gyakorlatilag teljes adatvesztést kockáztattok, és ugye Murphy nem alszik.

Csak kíváncsiságból:
A qnap álltal kiajánlott iscsi blockdevice-eken van valami értelmes file rendszer, vagy az adott program saját formátumában közvetlenül írta?

Előre bocsátom nem értek hozzá, de nem lehet megycsinálni,
hogy szerzel egy 3TB disket pluszban és
-egy diszkről lemented a cuccot erre az újra, lecsatolod megformázod stb. az új követelménykenek megfelelően, és vissza teszed rá a videó anyagot?
- ill. nem lehet mondjuk formátumot változtatni a videókon ideiglenesen ami mondjuk tömörebb divx stb.?

Köszi az ötletet, de sajnos így nem fog menni a fájlrendszer váltás.
A videó konvertálás is felmerült, két dolog miatt nem megy, az egyik a vízjel(Date-Time), ezt még meg is lehetne oldani. De a konvertálás ideje lenne rengeteg idő. Először ki kell exportáltatni a felvételt vízjelesen, átmásolni egy másik gépre, aztán MPEG2 -> H.264-re kell konvertálni, és áthelyezni valahova a kész videót.

Nem tudom mennyire akarsz belebonyolódni, illetve mennyi gép van még ezen kívül, de ideiglenesen egy Hadoop cluster felhúzása nem lenne megoldás?

Olyat nem tudsz, hogy elkezded egyre kisebbé átméretezni az eredeti volume-ot, aztán a helyét kitöltöd egy egyre nagyobbra növelttel? Az 5% szabad hellyel megnehezítetted az életed, de még így se lehetetlen, ha a technológia tudja ezt. B terv: csatold fel localhostra az iSCSI volume-ot, vagy akár loop device-ként, és azt a helyi mappát ajánld ki bármilyen protokollal.

--
joco voltam szevasz