RAID értelmezésében segítég kérése

Fórumok

Sziasztok,

szeretném a segítségeteket kérni egy kis RAID értelmezésben. Van négy HDD-m. Ezekre különböző kombinációkban létrehoztam a tömböket. Az adataralomtól függően különböző RAID típusokat használtam. Amit nem igazán értek, hogy elvileg mind a 4 db winyón létrehoztam mindent, de valamiért az sda üresnek tűnik. Ezt jól értelmezem vagy sem, esetleg ez most inaktív nálam?


#lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sda 8:0 0 1,8T 0 disk
├─sda1 8:1 0 94M 0 part
├─sda2 8:2 0 46,6G 0 part
├─sda3 8:3 0 908,2G 0 part
└─sda4 8:4 0 899,1G 0 part
sdb 8:16 0 1,8T 0 disk
├─sdb1 8:17 0 94M 0 part
├─sdb2 8:18 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdb3 8:19 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdb4 8:20 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup
sdc 8:32 0 1,8T 0 disk
├─sdc1 8:33 0 94M 0 part
├─sdc2 8:34 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdc3 8:35 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdc4 8:36 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup
sdd 8:48 0 1,8T 0 disk
├─sdd1 8:49 0 94M 0 part
├─sdd2 8:50 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdd3 8:51 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdd4 8:52 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup

Köszi előre is!

Kalmi

Hozzászólások

Nezd meg a /proc/mdstat tartalmat. Abbol latod hogy melyik raid tomb (md1, md2, md3) mibol epul fel tenylegesen, hany komponensbol all, mi az allapota, stb.

# cat /proc/mdstat
Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md2 : active raid5 sdd4[3] sdb4[0] sdc4[1]
1885277184 blocks super 1.2 level 5, 512k chunk, algorithm 2 [3/3] [UUU]

md1 : active raid1 sdd3[3] sdc3[1] sdb3[0]
952163136 blocks super 1.2 [3/3] [UUU]

md3 : active raid1 sdd2[3] sdc2[1] sdb2[0]
48795520 blocks super 1.2 [3/3] [UUU]

unused devices:

Itt is hiányzik az "sda". A winyóval lett valami?

Nem a vinyóval lett valami, mert akkor hiányozna a tömbből, az U-k mellett lenne egy _ is.
Nem adtad hozzá a tömbhöz az sda-s partíciókat.
Simán hozzáadhatod őket most.

PS: Ha ez csak egy játék/tanulós dolog akkor szuper, de ha éles akkor elgondolkoznék, hogy tökugyanazokon a diszkeken mi értelme van különböző raid tömböket létrehozni, hiszen ha egy diszk kiesik annak az összes partíciója kiesik, nyilván mindegyik tömbből.
--
Gábriel Ákos

Értem, feltételezem az történhetett, hogy úgy indítottam el a gépet, hogy az egyik winyó (az sda) nem volt csatlakoztatva és ezért kikerült a tömből. Nem igazán csináltam még ilyet (telepítésnél hoztam csak létre tömböket, menet közben még nem dolgoztam vele), ezért nem szeretnék több hibát csinálni ezért, ha jól gondolom ezeket a parancsokat kell majd kiadnom, hogy OK legyen minden? :)

https://raid.wiki.kernel.org/index.php/Growing#Adding_partitions

#mdadm --add /dev/md3 /dev/sda2
#mdadm --add /dev/md1 /dev/sda3
#mdadm --add /dev/md2 /dev/sda4

hm, értem és lehet, de a szerverem több, mint egy éve hiba nélkül ment (nem küldött "SparesMissing" hibákat, tökéletesen üzemelt), sajnos a szerveremet szét kellett kapnom, ezért gondolom, hogy ez lehetett az oka. Szerintem ez már részlet kérdés :).

A fő kérdésem, hogy az általam vázolt parancsok megoldják a gondomat, vagy még kell valami (bizonytalan vagyok benne és nem igazán szeretnék további bajt okozni)?

RAID1 Igen, ott vannak a főbb adatok és biztosra akartam menni.
RAID5, pedig azért lett, mert a biztonsági mentés, inkább vissza állítási pontok, azaz jóval nagyobb hely kell neki.

Még egyszer köszi, ha ránéznétek :)

A kérdésedre nem tudok biztosat mondani. Raid1-es tömbbe valószínű simán lehet. Egy 3 lemezes raid5-ből így egy 4 lemezes raid5-öt csinálni.., vannak kétségeim, de biztos van, aki jobban ért hozzá.
Egy gépben így 4 lemezből raid1-et csinálni.., nem sok értelmét látom. Ok, hogy legalább 3 disked meghalhat, de ha nem veszed időben észre az elsőnél... A másodknál már az egész raid5-öd kuka eleve.
Inkább lenne a 4 disk 2 gépben 2-2 tükörben, több hw komponens hiba ellen véd.
4 lemezt inkább raid10-ben használ az ember, hogy helyed meg sebességed is legyen.

Mondjuk éles szerverbe azért ez tényleg érdekes megoldás. Én nem így csináltam volna.
És azért nem küldött "SparesMissing" hibát, mert nem is volt spare disk.
De hogy konstruktív is legyek: A raid 5-nek szánt negyedik partíciót spare -ként adnám oda, illetve elgondolkozhatnál a raid 10-en is. (mint ahogy mások is írták)
Ha már szét kellet kapnod a szerveredet. :-)

---------------------------------------------------------------
Ritkán szólok hozzá dolgokhoz. Így ne várj tőlem interakciót.

RAID 5 növeléshez kell a --grow is, és ha használni is akarod, pvresize, lvresize, resize2fs, miután a bővítés elkészült.
Az se tűnt fel, hogy a RAID5 kapacitása csak 2 partíciónyi? Az az sda sose volt a tömbben. RAID5-ből nem tud úgy kiesni lemez, hogy ne jelezzen hibát. Ha 4-ből 3 diszkesre csökkent volna, hiba nélkül, akkor a kapacitásának 1/3-a elveszik, azt meg a rajta levő fájlrendszer nem viselte volna el.

Szerintem 100%, hogy mind a 4 hdd rendben lett elkészítve és tökéletesen (hiba nélkül ment) közel egy évet. Csak most a hardveres megbolygatásom után dobálja a hibát a szerver.

Parancsok kiadása után:
# cat /proc/mdstat

Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md1 : active raid1 sda3[4](S) sdb3[0] sdd3[3] sdc3[1]
952163136 blocks super 1.2 [3/3] [UUU]

md2 : active raid5 sda4[4](S) sdb4[0] sdd4[3] sdc4[1]
1885277184 blocks super 1.2 level 5, 512k chunk, algorithm 2 [3/3] [UUU]

md3 : active raid1 sda2[4](S) sdd2[3] sdc2[1] sdb2[0]
48795520 blocks super 1.2 [3/3] [UUU]

unused devices:

---

# lsblk

NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sda 8:0 0 1,8T 0 disk
├─sda1 8:1 0 94M 0 part
├─sda2 8:2 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sda3 8:3 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sda4 8:4 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup
sdb 8:16 0 1,8T 0 disk
├─sdb1 8:17 0 94M 0 part
├─sdb2 8:18 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdb3 8:19 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdb4 8:20 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup
sdc 8:32 0 1,8T 0 disk
├─sdc1 8:33 0 94M 0 part
├─sdc2 8:34 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdc3 8:35 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdc4 8:36 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup
sdd 8:48 0 1,8T 0 disk
├─sdd1 8:49 0 94M 0 part
├─sdd2 8:50 0 46,6G 0 part
│ └─md3 9:3 0 46,5G 0 raid1
│ ├─vgserversystem-root (dm-0) 252:0 0 1,9G 0 lvm /
│ ├─vgserversystem-usr (dm-1) 252:1 0 2,9G 0 lvm /usr
│ ├─vgserversystem-var (dm-2) 252:2 0 4,7G 0 lvm /var
│ ├─vgserversystem-varlog (dm-3) 252:3 0 4,7G 0 lvm /var/log
│ ├─vgserversystem-vartmp (dm-4) 252:4 0 1,9G 0 lvm /var/tmp
│ ├─vgserversystem-varcache (dm-5) 252:5 0 9,3G 0 lvm /var/cache
│ ├─vgserversystem-varspool (dm-6) 252:6 0 952M 0 lvm /var/spool
│ ├─vgserversystem-home (dm-7) 252:7 0 952M 0 lvm /home
│ ├─vgserversystem-tmp (dm-8) 252:8 0 4,7G 0 lvm /tmp
│ └─vgserversystem-swap (dm-9) 252:9 0 4,7G 0 lvm [SWAP]
├─sdd3 8:51 0 908,2G 0 part
│ └─md1 9:1 0 908,1G 0 raid1
│ └─matrixdata-data (dm-11) 252:11 0 908,1G 0 lvm /srv/server
└─sdd4 8:52 0 899,1G 0 part
└─md2 9:2 0 1,8T 0 raid5
└─matrixbackup-backup (dm-10) 252:10 0 1,8T 0 lvm /srv/backup

Ha jól értem vissza állt minden az sda(S) lett :)

---

RAID1-el mi a baj, miért nem jó az 5letem, mit kellet volna másként csinálni? (Soha nem terveztem még ilyet)

Az alap gondom bajom az volt, hogy ez nem egy "kimondott" szerver gép, azaz csak 4 hd fér bele, így a tartalékok száma erősen korlátozott volt. Így igaz hogy nem lett több helyem, de legalább mindegyiken tuti meg van minden (a fő adatoknál, akár 3 db disk is kieshet). Igaz talán a RAID10-es lett volna a legjobb, de oda legalább még 2 db tartalék kellett volna...

Igen gondolkodtam a "hdparm" pörgés lekapcsolásán, de ebben nem világos (nem tudom mennyire "intelligens"), hogy ha gond van, akkor azonnal bekapcsol-e, illetve nem-e kapcsol-le ha beállítom az időzítőt.
(Így gondolnám beállítani)

# nano /etc/hdparm.conf


/dev/sda {
mult_sect_io = 16
write_cache = off
spindown_time = 240
}

Annyi kiegészítéssel, hogy most már jön a figyelmeztető levél "service mdadm reload". Nem igazán értem, hogy mi lehet a kötetekkel, mi lehet a hiba. Elvileg mindegyik winyó rendben fut...