Sziasztok!
Az alábbi problémával kapcsolatban kérném a segítségeteket:
Adott egy FreeNAS 9.1.1-es rendszer. A Web frontenden keresztül töröltem egy nagy méretű (650GB) zvol volume-ot. Ez a zvol korábban ISCSI targetként volt kiajánlva. A zvol törlés azonban néhány óra múlva magába roskadt, azaz a FreeNAS szerver elérhetetlenné vált mind a web interfészen, mind ssh-n keresztül.
Ez után nyomtam egy reset-et a szervernek, ami a boot-olás folyamán most a következőkkel fogad:
Solaris: WARNING: can't open objset for [a törölt zvol neve]
Próbáltam ennél az állapotnál is várni néhány órát, de nem történt semmi. Próbáltam a FreeNas-t verbose módban indítani, de amikor ennél a pontnál megáll, semmi egyebet nem mond magáról.
Van ötletetek esetleg, hogy mit tudnák tenni annak érdekében, hogy ismét elindítható legyen a rendszer?
Köszi,
Kincza
- 7764 megtekintés
Hozzászólások
Hm. Ez ilyen vicces cucc.
Nem használtam soha freenas-t tehát, csak ötlet... !
( Úgy tudtam a FreeNAS bsd alapon van. )
Meg próbálnám bebootolni single user-be és megnézni, hogyan is csinálja az iscsi target-et.
Talán istgt. Tehát megpróbálnám kikapcsolni a szolgáltatást, ha nincs másik target-em.
Megkeresném az istgt-t a /etc/rc.conf-ban és letiltanám. ( istgt_enable="YES"-t NONE -ra )
Ha lenne másik target-em akkor az istgt konfigjában, a /usr/local/etc/istgt/istgt.conf-ban a megfelelő szekcióval kezdenék valamit.
Ne akarjon már nem létező forrást kiosztani ...
De mindez csak fikció...
Ó öreg mesterem azt tanította, ha zfs-t akarok akkor használjak Solaris-t, vagy illumos alapú dolgokat, vagy linuxot. Ennek fényében a FreeNAS-t nem is próbáltam soha.
Üdv
T
- A hozzászóláshoz be kell jelentkezni
Köszi, sajnos az iSCSI target osztásig el sem jut szerintem. Elindítottam single user módban és megpróbáltam zpool import segítségével behúzni a poolt, de ugyanúgy megakad ennél a pontnál. Nem tudom mitévő legyek, valahogy force-olni kellene hogy ezzel a törölt dataset-tel ne foglalkozzon.
Tehát úgy néz ki a rendszer, hogy van egy pool: Vol1
Azon belül vannak a dataset-ek, és amikor húzza be a dataset-eket akkor elakad ennél a pontnál.
--
kincza
- A hozzászóláshoz be kell jelentkezni
Zfs a root partició?
Solaris alatt a "zpool -f import" a force mód.
Bad news. Beírtam google-ba a hibaüzeneted a pool neve nélkül. Első találat ... Van -f . :) Viszont a rendszer fejreáll tőle. Readonly-ban menni fog, hogy lemásold az adataid. Másik pool-od, ha van exportáld szépen majd egy fresh install után import.
Sajnálom, de nem nagyon tudok segíteni. Viszont már értem miért nem mondta ó' öreg mesterem a bsd-t zfs-re.
Üdv
- A hozzászóláshoz be kell jelentkezni
próbáld meg importálni a pool-t.
Akár -f vagy -F ( F --> recovery ).
Utána a :
zfs set mountpoint=none pooname/fsname
Ezzel nem kerül mount-olásra.
Nem hiszem, hogy megoldja, de talán valami más történik.
A pool-t sima destroy-al törölted vagy volt -r vagy -R ?
Üdv
- A hozzászóláshoz be kell jelentkezni
A poolt readonly-ban úgy néz ki, hogy be tudom húzni. A zfs dataset-et töröltem a pool-ból korábban (lehet, hogy félreérthetően fogalmaztam), a freenas felületén. Emlékeim szerint ez a művelet a zfs destroy parancsot használja.
--
kincza
- A hozzászóláshoz be kell jelentkezni
Bemount-oltam readonly-ban a Vol1-et. Azok az adatok, amelyek NFS, vagy CIFS alatt voltak kiajánlva azok látszanak, azonban a kérdésem az lenne, hogy hogyan lehet hozzáférni azokhoz a dolgokhoz, amelyek iscsi targetként voltak elérhetők? A zfs list mutatja őket. Közöttük van a dataset is, amelyet törölni akartam
--
kincza
- A hozzászóláshoz be kell jelentkezni
Megmutatja a mountpoint-ot :
zfs get mountpoint poolname/fsname
Felmountolja :
zfs mount poolname/fsname
Itt hibát kellene kapnod. Azt be tudnád írni mi a hiba? Léteznek a fs(dataset)-ről klónok vagy snapshotok? Gondolom mivel törölni akartad, az adatok nem számítanak, de ha újra működne akkor talán a gép is indulna.
- A hozzászóláshoz be kell jelentkezni
Az adott datasetre a következő hibát dobja az zpool import:
ZFS_WARNING: Unable to create ZVOL Vol1/vlstatdb (error=16)
Erről a dataset-ről van mentés, de a benne levő adatok nem kellenek.
Mivel ez egy device dataset, így nincs konkrét mount pointja
--
kincza
- A hozzászóláshoz be kell jelentkezni
Az error 16 talán a nem létező dataset.
Próbáld meg törölni a snapshotokat is esetleg.
Ha nem jön be akkor sajnos kevés vagyok ahhoz, hogy segítsek. Elvileg nem létezhetnének snapshotok egy nem létező fs-ről. De erről zpool status kellene, hogy értesítsen.
- A hozzászóláshoz be kell jelentkezni
snapshot-ok nincsenek. Arra gondoltam, hogy azokat a dataset-eket amelyekre szükségem van zfs send segítségével átküldöm másik eszközre, de az meg csak snapshot-ból hajlandó dolgozni. Az meg nincs, és readonly pool lévén nem is képezhető. Van esetleg ötlet ennek az áthidalására?
--
kincza
- A hozzászóláshoz be kell jelentkezni
zpool status szerint minden rendben?
- A hozzászóláshoz be kell jelentkezni
Igan, az azt mondja, hogy minden ok.
Utánaolvasgatva a dolgoknak a freenas fórumon másnak is volt ilyen problémája. Azt mondját az okosok, hogy tenni kéne még memóriát a szerverbe (most 24GB van benne), hogy le tudjon futni a dataset törlése. Ezt még meg is tudnám valósítani, csak az az egyetlen dilemmám, hogy nem tudom, hogy mennyit kell várni ehhez, illetve nincs semmilyen visszajelzés, vagy státusz információ ezzel kapcsolatban.
--
kincza
- A hozzászóláshoz be kell jelentkezni
640k mindenre elég kell legyen!
24GB ram az sok! A zfs úgymondd cache-re használja a memóriát, de kissé másképp mint a "tradicionális" filerendszerek. A memóriát főképp read cache-nek használja. ARC. Ennek mértéke szabályozható. A te gépedben ha nem állítottál semmit, akkor az ARC használattól függően max 23GB-nyit foglalt el a ramodból. A ram azért kell, hogy gyors legyen. Ott is főleg az iops-ot dobja meg. Ha gyorsítani akarod még jobban akkor dobj be a gépbe pár ssd-t L2ARC-nak. Ha írnia is gyorsan kell akkor még párat ZIL-nek ( log ).
Nem ismerem a FreeNAS-t. Solaris alatt a pool létrehozás, törlés, filerendszer létrehozás, törlés instant parancsok.
De ez most nem tartozik a problémához.
megpróbálod a kérdéses filerendszer mountpoint-ját none-ra állítani majd felcsatolni a poolt read write módon?
- A hozzászóláshoz be kell jelentkezni
Ebben segítenél egy kicsit? A kérdéses fájlrendszer egy zfs device dataset (deviceként és nem fájlként) hogyan tudom a mount pointot none-ra állítani?
--
kincza
- A hozzászóláshoz be kell jelentkezni
Hoppá bocsánat, még mindig solarisban vagyok félig.
Sajnos tanácstalan vagyok.
De jó nagy vas lehet. Gondolom nem otthon használsz bele 24g ramot.
- A hozzászóláshoz be kell jelentkezni
Nem otthoni használatra van.
Itt van egyébként a freenas-nál egy hasonló eset: http://forums.freenas.org/threads/raidz2-hung-after-zvol-delete.15759/p…
--
kincza
- A hozzászóláshoz be kell jelentkezni
Fura egy állat ez a freenas... :)
Egy utolsó próba.
Regisztrálsz az oracle-nél. Solaris 11 letölt. Vagy ha nem akarsz regisztrálni akkor OpenIndiana.
Bebootolsz egy live médiát.
Ott: zpool -F import
Ez csak akkor működhet ha raw device-okat használt a zpool létrehozásához. Ha bsd label van a merevlemezeken akkor bukós, meg sem kell próbálni. Tehát, ha particionáltad a merevlemezeket akkor nem fog menni...
- A hozzászóláshoz be kell jelentkezni
Közben kínomban bebootoltam egy 9.2-es zfsguru livecdről. Ő is felfeldezi a Vol1 pool-t, majd amikor azt mondom neki, hogy import, ugyanazt a hibát dobja mint a freenas, azaz megáll a can't open objset....
résznél
--
kincza
- A hozzászóláshoz be kell jelentkezni
off: öreg mesterednek érdekes elképzelései lehetnek, ha szerinte a linuxos ZFS jobb, mint a BSD-s.
- A hozzászóláshoz be kell jelentkezni
Volt dedup?
zdb -D "pool"
- A hozzászóláshoz be kell jelentkezni
Az nem volt.
--
kincza
- A hozzászóláshoz be kell jelentkezni
Akkor nem lehet hogy ISCSI ragadt be valójában?
disable iscsi
reboot
majd kitörlöd fájlokat mappákat meghagyod /var/lib/iscsi/
- A hozzászóláshoz be kell jelentkezni
Megnézem, bár ennek kissé ellentmond, hogy single user módban indítva (ekkor el sem jut az iscsi szolgáltatásokig) is megakad amikor importálni akarom a pool-t. readonly módban tudom importálni, ebben az esetben azonban nem tudom, hogy hogy tudnám lementeni azokat a zfs dataset-eket, amelyek zfs device-ként lettek létrehozva
--
kincza
- A hozzászóláshoz be kell jelentkezni
Sziasztok,
A problémát sikerült megoldani, pár szóban elmondanám mit tapasztaltam.
1.) A szerverbe átmenetileg került még 24GB ram, így 48GB volt benne összességében.
2.) Újraindítás után nem a freenassal, hanem ZFS Guru live CD-vel indítottam, ezzel volt több konzolom is.
3.) Manuálisan elindítottam az importot, ugyanúgy megkaptam azt a hibaüzenetet ami a topicindítóban szerepelt.
4.) Másik konzolon hozzáfértem az erőforrásokhoz és látszódott, hogy a háttérben a dolgozik gép, azaz gondolom rendezte a sorait a zvol törlése után. Közben elfogyasztott kb. 30GB RAM-ot.
5.) néhány óra múlva befejeződött a művelet és lefutott az import.
6.) Örülünk :-), köszönöm a segítséget!
ZFS-ben nálam jártasabb ismerősöm javaslatára az ARC maximumát 16GB-ra módosítottam
/boot/loader.conf
vfs.zfs.arc_max="16G"
Újraindítás után egyébként miután elindultak a storage-hoz csatlakoztatott szerverek, a 16GB-ot pillanatok alatt "megzabálta" a rendszer. Elképzelhető, hogy a problémát is az okozta, hogy az ARC memóriahasználata megette a RAM-ot az egyéb szolgáltatások elől.
--
kincza
- A hozzászóláshoz be kell jelentkezni
"ZFS-ben nálam jártasabb ismerősöm javaslatára az ARC maximumát 16GB-ra módosítottam"
Ismerősödtől meglehet azt tudni hogy honnan jött ez 16GB?Értem ezalatt hogy egy 24GB gépbe 75% ra állitod ARC maximumot vagy hogy?Mi az arány?
- A hozzászóláshoz be kell jelentkezni
Hali,
Nem tudtam vele azóta még beszélni, de utánakérdezek. Megnézve az oracle által kiadott dokumentációt
http://docs.oracle.com/cd/E26502_01/html/E29022/chapterzfs-3.html
nekem az jön le, hogy mivel alapból 24GB RAM volt a gépben, ezért az ARC maximuma default esetben 23GB volt. Elképzelhető, hogy a nagyméretű zvol törlése után a rendelkezésre álló 1GB már nem volt elég a filerendszer rendezésére, illetve a többi feladat ellátására is.
--
kincza
- A hozzászóláshoz be kell jelentkezni
Köszi az összefoglalást! Szerintem többeknek hasznára vált :).
- A hozzászóláshoz be kell jelentkezni
Amikor anno mondták, h a zfs sok memóriát használ, akkor gondoltam, mondjuk 4, vagy 8G. De aztán rájöttem, h itt 32-48G memüriákról van szó. :)
- A hozzászóláshoz be kell jelentkezni
+1
--
A legértékesebb idő a pillanat amelyben élsz.
https://sites.google.com/site/jupiter2005ster/
- A hozzászóláshoz be kell jelentkezni