Dotaz: Server HP DL320e G8 a software RAID 1 - výměna disku

[MMMMMMMMM]

Zdravím, nemáte tu prosím někdo server HP DL320e G8 a neřešili jste výměnu odcházejícího disku v softwarovém raidu? Máme v serveru 4 disky (což je maximum pozic): 2x 500GB systém, 2x 1TB /home. A právě jeden systémový disk (sda) odchází, má pár vadných sektorů. Mám místo něj už připraven nový disk, ale spíše ještě váhám, jak disk vyměnit. :-/

Chtěl jsem si zkusit nabootovat systém z druhého disku sdb, ale nikde jsem při startu serveru nenašel způsob, jak to provést. Je tam jen volba Boot from HDD a už tu chybí výběr konkrétního disku. Mám myšlenku, že nejprve otestuju bootování z sdb, následně odeberu z raidového pole disk sda a server vypnu. Pak vložím nový disk na pozici původního disku sda, nabootuju z sdb a standardně vložím do pole nový disk (sfdisk, mdadm -a, grub2-install) - tohle jsem si otestoval na pokusném PC, co jsem si pro tyto účely složil a bylo to OK, disk jsem přidal, pole sestavil, boot sektor zavedl, nabootoval pak z sda i z sdb.

Ale jak tomu serveru říci, aby bootoval z druhého disku? Nebo snad pokud nedokáže nabootovat z jednoho disku (sda), zkusí to sám z druhého (sbd)? Docela se obávám zkoušet nějaké harakiri. A raději se zeptám někoho, kdo tento server má a má s tím zkušenost. PS: HW raid nevyužívám, jde čistě o SATA AHCI controller

Odpovědi

[R]

Cize pouzivas mdraid?

[MMMMMMMMM]

ano ano :)

[scott]

V tom pripade musis mit nainstalovany (a spravne nastaveny) Grub i na druhem (sdb) disku.

[MMMMMMMMM]

Domnívám se, že tam je. Jen tedy nevím, jak konkrétně tento server přinutit bootovat z tohoto disku. :( Možná dělám z komára velblouda a prostě to mám zkusit, ale je to poprvé, co v serveru řeším výpadek disku v raidu a neradi bych to zmrtvil celé.

# file -s /dev/sda
/dev/sda: x86 boot sector; partition 1: ID=0xfd, starthead 32, startsector 2048, 209846272 sectors; partition 2: ID=0xfd, starthead 254, startsector 209848320, 8396800 sectors; partition 3: ID=0xfd, active, starthead 254, startsector 218245120, 1050624 sectors; partition 4: ID=0x5, starthead 254, startsector 219295744, 757477376 sectors, code offset 0x63

# file -s /dev/sdb
/dev/sdb: x86 boot sector; partition 1: ID=0xfd, starthead 32, startsector 2048, 209846272 sectors; partition 2: ID=0xfd, starthead 254, startsector 209848320, 8396800 sectors; partition 3: ID=0xfd, active, starthead 254, startsector 218245120, 1050624 sectors; partition 4: ID=0x5, starthead 254, startsector 219295744, 757477376 sectors, code offset 0x63

# dd bs=512 count=1 if=/dev/sda 2>/dev/null| strings
ZRr=
`|f
\|f1
GRUB
Geom
Hard Disk
Read
 Error
0&-U

# dd bs=512 count=1 if=/dev/sdb 2>/dev/null| strings
ZRr=
`|f
\|f1
GRUB
Geom
Hard Disk
Read
 Error
0&-U

[R]

Ten server ma hadam hot-plug disky, tak nic nevypinaj. Najprv si 3-krat over, ze je skutocne vadny sda. Potom:

mdadm /dev/mdX --fail /dev/sdaY (pre vsetky particie)
sfdisk --dump /dev/sda > sda.dump

Vymenit disk.

sfdisk /dev/sda < sda.dump
blockdev --rereadpt /dev/sda
mdadm /dev/mdX --add /dev/sdaY (pre vsetky particie)
dpkg-reconfigure grub-pc (a vyber oba disky)

[MMMMMMMMM]

Díky, bohužel to ale vypadá, že v serveru jsou ne hot-plug disky.

[R]

AHCI podporuje hot-plug a Linux tiez. Takze ak su disky vo vysuvacich suflikoch, bude to fungovat. Aj ked HP mozno tvrdi, ze hot-plug sa da pouzit iba s priplatkovym HW RAID radicom.

[azurIt]

Moze to mat vypnute v biose.

[R]

Vypnute co?

[alkoholik]

Po --fail pust jeste mdmadm -r, abys ho z poli odebral.
Taky je vhodne disk pred vyndanim vypnout: echo 1 > /sys/block/sda/device/delete (to je z hlavy, radsi si to zkontroluj).

[Jendа]

Je tam jen volba Boot from HDD a už tu chybí výběr konkrétního disku.

Většinou k tomu někde hlouběji v BIOSu bývá možnost nastavit prioritu jednotlivým diskům.

Nebo snad pokud nedokáže nabootovat z jednoho disku (sda), zkusí to sám z druhého (sbd)?

To je možné.

No a v nejhorším prostě nabootuješ z nějakého live a grub na nový disk nainstaluješ z něj…

[MMMMMMMMM]

Díky moc, to si zítra nasimuluju na pokusné PC, které mám pro tyto účely. :) Na serveru běží CentOS, našel jsem třeba tohle: https://wiki.centos.org/TipsAndTricks/ReinstallGRUB

[pavele]

Nechce se mi věřit, že provozuješ server a neotestoval sis aspoň ve virtuálu výměnu disku při výpadku.

Když jsem měnil disk v CentOS, tak:

1. Otestoval jsem, jestli je Grub nainstalovaný na disku sda a sdb:

dd if=/dev/sda of=mbrsda bs=512 count=1
dd if=/dev/sdb of=mbrsdb bs=512 count=1

xxd mbrsda
xxd mbrsdb

dd bs=512 count=1 if=/dev/sda 2>/dev/null | strings|grep GRUB
dd bs=512 count=1 if=/dev/sdb 2>/dev/null | strings|grep GRUB

2. Strčil jsem nový disk přes SATA/USB redukci do PC a do nového disku přenesl MBR:

sfdisk --dump /dev/sda | sfdisk --force /dev/sdc

3. Vyhodil jsem z vadný disk z pole:

mdadm --manage /dev/md0 --fail /dev/sdb1
mdadm --manage /dev/md1 --fail /dev/sdb2

mdadm --manage /dev/md0 --remove /dev/sdb1
mdadm --manage /dev/md1 --remove /dev/sdb2

4. Vypnul jsem PC, vyhodil vadný disk, místo něj strčil nový.

5. Zapnul PC a modlil se, aby ten vyhozený disk byl ten vadný.
Systém naběhl, takže jsem už jen přidal nový disk do pole:

mdadm --manage /dev/md0 --add /dev/sdb1
mdadm --manage /dev/md1 --add /dev/sdb2
cat /proc/mdstat


6. Instaloval jsem Grub:

grub-install /dev/sdb

Jinak CentOS má pěkné menu na DVD - rescue mode, kde se dá nainstalovat Grub, pokud systém nenajede.

[MMMMMMMMM]

Otestoval (a úspěšně), ale zasekl jsem se při výměně na ostrém serveru na tom, že nejsem schopen nabootovat z disku sdb ručně, v serveru tato volba prostě není. V PC za pár šupů mohu vybrat, z jakého disku bootovat. Díky za info, to menu CentOSu vyzkouším zítra.

Tady z toho jsem pochopil, že server napřed zkouší bootovat z jednoho disku, následně z druhého (nebo USB disku). https://support.hpe.com/hpsc/doc/public/display?docId=emr_na-c03995026, praktická zkušenost ale zatím chybí.

[MMMMMMMMM]

Všem zatím díky za komentáře, velmi si toho vážím, pánové. Zítra uvidím více.

[dustin]

Servery, které mají diskový řadič s vlastním biosem, obvykle nabízejí jen pořadí bootu kontrolérů (viz to RBSU hpčka). Vlastní výběr bootovacího disku už si řídí kontrolér v nastavení svého biosu (i když není raidový, tj. nabízí disky jako JBOD).

[MMMMMMMMM]

No a já bych rád věděl, zda lze nastavit ten kontrolér tak, abych mohl ručně vybrat disk, ze kterého nabootovat. Buď jsem slepý a nevidím to nebo jsem už úplně blbý. :)

[Vantomas]

Záleží zda je řadič v AHCI režimu nebo v HP RAID režimu. Pokud v AHCI, tak jsou jednotlivé disky vidět v boot menu (F8 nebo F11 při bootu).

[MMMMMMMMM]

Právě že je řadič v AHCI, ale disky v boot menu (F11) vidět nejsou.

[Vantomas]

Ajo, moje chyba. Spletl jsem si to s DL120 G9, tam už to vybírat jde. Tak to pardon.

Nevím zda DL320 umí uefi nebo ne, protože to nepoužívám, ale v iLO v Boot order vidím, že jde vybrat uefi target. Takže pokud tam máš uefi, tak by mohla být cesta tudy.

[azurIt]

Strasne sa tu vsetci stresujete kvoli blbostiam:

- naco zlozito kontrolujete, ci je na oboch diskoch nainstalovany zavadzac? proste ho preinstalujte (grub-install /dev/sda; grub-install /dev/sdb; ...), navyse je toto lepsi sposob, pretoze na druhom disku sice zavadzac byt moze avsak kto vie, kedy bol naposledy zaktualizovany a teda vobec nemusi fungovat

- ak by zavadzac predsalen zlyhal, tak sa nic nedeje za predpokladu, ze ten vytiahnuty disk nie je uplne mrtvy, proste ho vlozte naspat a bootnite z neho (resp. pouzite zavadzac, ktory tam je)

- ak by ste z RAIDu odpojili nespravny disky resp. zo serveru vytiahli nespravny disk, tak sa nic nedeje, ved ten vybraty viete dat do serveru naspat (jemu ani datam sa predsa pri vybrani nic nestane, nastavenie SW RAIDu bude tiez ok, kedze zmena sa urobila len na disku, ktory v serveri zostal)

[azurIt]

V poslednom bode, samozrejme, hovorim vyhradne o RAID1.

[Jendа]

- naco zlozito kontrolujete, ci je na oboch diskoch nainstalovany zavadzac?

Fun fact: to, že v prvním sektoru je stage1, ještě vůbec nemusí znamenat, že za tím je stage1.5. Třeba když někdo kopíroval partition tabulku tak, že vzal celý první sektor.

[R]

Preto je vhodne cez dpkg-reconfigure grub-pc overit, ze sa grub instaluje na vsetky disky (to ho aj nainstaluje). A po vymene disku znovu.