Dotaz: výměna RAID

[Milan Uhrák]

Zdravím všechny ..

mám takový problémek, a chtěl bych poradit, jak nejlépe ho zvládnout

V raid5 skapal disk. Jel 6,5 roku, budiž mu země lehká. přemýšlel jsem nad výměnou, ale vzhledem k jeho kapacitě padla volba na výměnu všech disků za větší.

Na tom poli leží data pro apače, sambu, mysql, poštu, no prostě všechny ty blbosti, o který by podnik neměl přijít.

server pohání starší openSuse 12.1.

Moje představa je vytvořit na jiném PC raid a LVG a volume ( jo, jen jedna ) stejně jako u serveru, překopírovat data, server vypnout a podstrčit mu nový raid.

Protože s tím nemám zkušenosti, nic lepšího mne nenapadlo, ale zase si říkám, že by mne mohl server nepříjemně vyškolit (jak se to stává u jiných linux záležitostí, když mám "nápad" ).

Tak mně by zajímalo, co vy na to. Případně mně navést na správnou kolej.

Už jsem totiž narazil na první možný zádrhell a to je "metadata version" .. pole se mi na Leapu vytváří s 1.2, server má 1.0. Tak nevím, jestli server ten raid pozná, když bude mít jinou verzi metadat.

Předem děkuji za nějaký ten lepší nápad.

Milan

Odpovědi

[R]

Ten RAID je MD, HW alebo aky?

[dustin]

Kolik má ten md raid (když mluvíš o verzi metadat) disků? Měli jste nastavený spare disk? Pokud ne, jedete právě bez redundance a měl by sis pospíšit s řešením. Osobně bych přesun teď neřešil, strčil tam hned náhradní disk, ať se to co nejdříve zasynchronizuje a máte opět redundanci. Až pak si můžeš hrát s přesuny na větší, změna raidu (aspoň na raid6 nebo raid10, když je to firemní) atd.

Až ti to pole padne při výpadku dalšího disku, nevím jak to budete řešit, když ty s tím nemáš zkušenosti a očividně nikdo jiný ve firmě taky ne... Máte aspoň pořádné aktuální zálohy?

[Milan Uhrák]

Ahoj ,

Máme tam 3 disky, žádný spare. Zálohy se dělají, ale jak se to vyse.., nastane nepříjemná situace, kdy do úplné obnovy budeme bez .. všeho. A obnova potrvá, raději bych se bez ni obešel.

Nový raid měl mít jeden spare, ale disk asi po 5 hodinách klenul, tak zatím bez.

Personalities : [raid6] [raid5] [raid4] md0 : active raid5 sdb1[1] sdc1[3] 1953519616 blocks super 1.0 level 5, 128k chunk, algorithm 0 [3/2] [_UU] bitmap: 226/466 pages [904KB], 1024KB chunk

unused devices: <none>

takže ten disk nemusím již označovat jako fail, že ? Stačí server vypnout, připojit nový disk a pak jej do pole přiložit, sync se udělá sám, že ? nebo mám na novém disku udělat partišnu označenou jako Linux RAID ?

díky

[dustin]

Partišnu můžeš i nemusíš dělat, záleží na tobě. Já je vždy dělám, ale ty disky mívají více partišen a bývají součástí více polí (třeba raid1 na / a raid10 na /mnt/data).

Rovnou bych použil větší disk o velikosti pro finální nové pole (původní malý už se stejně obvykle nesežene).

Nezapomeň na něj hned nainstalovat grub (grub-install /dev/sdX), ať se z něj dá nabootovat.

[Milan Uhrák]

ok, boot máme z extra disku, takže toto odpadá

Vytvořil jsem partišnu .. a teď pro blbce :

odebrat disk ( mrtvý ) z pole

mdadm --manage /dev/md0 --fail /dev/sda1

mdadm --manage /dev/md0 --remove /dev/sda1

nový disk připojím na eSATA ( jako sde )

mdadm --manage /dev/md0 --add /dev/sde1

a počkám na sync

je to tak správně ?

Vypnout, a fyzicky disk nahradit v šachtě chci až o víkendu. Lze to takto ?

[dustin]

Ten sda už v mdstat vidět není, takže ti to pravděpodobně zahlásí, že už tam není, což samozřejmě nevadí. Je možné, že už se nehlásí ani do systému (viz /proc/partitions)

Postup mi přijde správný.

ok, boot máme z extra disku, takže toto odpadá

A ten extra disk je v raidu? Pokud ne, co se stane, když odejde?

[Milan Uhrák]

bude mela ...

[dustin]

Nevím, jak to máte rozdělené. V takovém případě menšího serveru dávám na všechny disky dvě partišny - první pro / (třeba 50GB bohatě stačí i do budoucna), druhou až do konce disku na data. Na prvních partišnách je raid1 (třeba i z 8 disků, když jsou tam), druhé partišny jsou pro datový raid a ty rostou s novými většími disky.

Grub je nainstalovaný na všech diskách, tedy lze kterýkoliv disk vyměnit a stroj běží dál.

Osobně bych hned na náhradní velký disk udělal první menší partišnu a datovou pro synchronizaci toho degradovaného raid5 až za ni. Až přidáš disk pro raid6, udělal bych úplně stejné rozložení (rovnou zkopírovat partišn tabulku přes sfdisk -d /dev/sdZDROJ | sfdisk /dev/sdCIL - pozor na pořadí! + příp. refresh partišen do jádra příkazem partprobe, pokud se nově vytvořené partišny hned neobjeví v /proc/partitions). Poté vyrobit na těch prvních partišnách raid1 pro root filesystému a někdy o víkendu to přehodit viz např. https://feeding.cloud.geek.nz/posts/setting-up-raid-on-existing/.

Swap nikde neřeším, protože máme všude mraky paměti a když tak lze nouzově do souboru. Pokud bys jej chtěl, udělej si pro něj další partišnu (1 - root, 2 - swap, 3 - data) a taky do raid1, ať ti stroj nepadne, až zrovna ten disk se swapem lehne. Do swap pole bych nepřidával všechny partišny sdX2 (třeba jenom dvě), ale finální disky bych měl rozdělené všechny stejně, ať se to snadno opravuje. A samozřejmě na všech diskách grub, ale to už jsem psal.

[Milan Uhrák]

hm, tak dev/sda1 nelze failnout ani remove, protože neexistuje .. to asi nevadí, nebo ano ? On je sda mrtvej úplně .. nevidí ho ani bios

[Milan Uhrák]

shit happens

fdisk -l ( výřez )

Disk /dev/sde: 2 000,4 GB, 2 000 398 934 016 bajtů
hlav: 255, sektorů na stopu: 63, cylindrů: 30 400, celkem 488 378 646 sektorů
Jednotky = sektory po 1 * 4096 = 4 096 bajtech
Velikost sektoru (logického/fyzického): 4096 bajtů / 4096 bajtů
Velikost I/O (minimální/optimální): 4096 bajtů / 4096 bajtů
Identifikátor disku: 0x000aa8c7 
      
Zařízení Zavádět   Začátek       Konec    Bloky    Id  Systém
/dev/sde1            2048  3907028991  2743205888   fd  Linux RAID samorozpoznatelný

mdadm --manage /dev/md0 --add /dev/sde1
mdadm: failed to write superblock to /dev/sde1

[Milan Uhrák]

aha ... 512 / 4096 problém ...

fdisk funkčního disku v poli

Disk /dev/sdc: 1 000,2 GB, 1 000 204 886 016 bajtů
hlav: 255, sektorů na stopu: 63, cylindrů: 121 601, celkem 1 953 525 168 sektorů
Jednotky = sektory po 1 * 512 = 512 bajtech
Velikost sektoru (logického/fyzického): 512 bajtů / 512 bajtů
Velikost I/O (minimální/optimální): 512 bajtů / 512 bajtů
Identifikátor disku: 0x000c516b

Zařízení Zavádět   Začátek       Konec    Bloky    Id  Systém
/dev/sdc1              63  1953520064   976760001   fd  Linux RAID samorozpoznatelný

[Milan Uhrák]

ehm .. promin, ta informace o novém raidu a okamžitě odejítém disku je tam jen mimochodem.

Výpis /proc/mdstat je ze starého serveru, stejně jako další text se týče toho stařečka.

[R]

Ano, urcite ako prve vymenit ten disk, aj ked je vacsi a pockat na rebuild. Nasledne kupit dalsi disk a skonvertovat to na RAID6 (da sa robit online).

Nakoniec ten RAID zvacsit - postupne po jednom vymienat disky za vacsie a urobit rebuild. Az budu vsetky vymenene, tak sa da zvacsit RAID a nasledne LVM, filesystem.

Toto je cesta bez vypadku, ale bude to chvilu trvat.

[dustin]

Souhlas, rovnou bych tam dal větší disk, ať se to nemusí synchronizovat znovu.

Postupný růst md raidu mám rád, máme takto řadu už hodně starých filesystémů, které pořád jen rostou. Samozřejmě pokud se přitom nechce filesystém vyměnit (třeba na zfs).

[Milan Uhrák]

Pokud tomu rozumím dobře, tak vzit nový disk, vytvořit na něm raid partišnu ( jsou tam 3x 1TB , nové disky 4x2TB ) tak tu partišnu udělat na celý nový disk 2 TB ?

disk přidat do raidu. nechat sync-nout. Po čase udělat to samé s druhým diskem ( teď ale budu muset vyměňovaný disk označit jako fail, že ? ) ...

toto mi přijde jako velmi zajímavý postup ..

Navrhuju to správně ?

Jak naposled přidám 4tý disk a ... jak převedu raid5 na 6 ? o tomto šílenství jsem vůbec nevěděl...

[dustin]

Nejdříve bych to zkonvertoval (samozřejmě po zasynchronizování toho vyměněného) dalším (velkým) diskem do RAID6 (např. http://www.ewams.net/?date=2013/05/02&view=Converting_RAID5_to_RAID6_in_mdadm). Až pak bych ty staré postupně vyměňoval za větší, abys měl pořád zachovanou redundanci. Po zasynchronizování posledního disku se ti pole (/dev/md0) samo zvětší, postačí jen zvětšit filesystém (obvykle ani není potřeba odmontovat, tedy normálně za běhu), nové místo se ti samo ukáže.