Zlobivý disk (pomalý WesternDigital)

7.3.2010 18:00 | Přečteno: 2774× | GNU/Linux | | poslední úprava: 7.3.2010 23:11

Na svém serveru mám SW RAID 1, nad ním LVM a nad ním EXT4. Celkem normální konfigurace, řekl bych. Pole je dostatečně velké (1,5 TB), místa je dost. Co mne ale trápí je výkon. Často se to nepozná, protože takové weby nebo databáze se vejdou do diskové mezipaměti v RAM, takže si člověk ničeho nevšimne, ale když si přehrávám po síti filmy nebo stahuji poštu, občas je odezva dost hrozná a rychlost taky.

V počítači jsou dva disky:

/dev/sda: WDC WD15EADS-00P8B0:   – WesternDigital
/dev/sdb: ST31500341AS:          – Seagate

Vypadá to, že čtení brzdí WesternDigital.

# dd if=/dev/md0 bs=1M count=1024 | pv > /dev/null
1024+0 vstoupivších záznamů
1024+0 vystoupivších záznamů
1 073 741 824 bajtů (1,1 GB) zkopírováno, 10,3183 s, 104 MB/s
   1GB 0:00:10 [99,2MB/s]

# dd if=/dev/sda1 bs=1M count=1024 | pv > /dev/null
1024+0 vstoupivších záznamů
1024+0 vystoupivších záznamů
1 073 741 824 bajtů (1,1 GB) zkopírováno, 158,554 s, 6,8 MB/s
   1GB 0:02:38 [6,46MB/s]

# dd if=/dev/sdb1 bs=1M count=1024 | pv > /dev/null
1024+0 vstoupivších záznamů
1024+0 vystoupivších záznamů
1 073 741 824 bajtů (1,1 GB) zkopírováno, 9,09674 s, 118 MB/s
   1GB 0:00:09 [ 113MB/s]

Vím, že to není žádné úžasné měření, ale pro představu snad postačí. Použil jsem pv, abych sledoval průtok průběžně – u sda se často rychlost dostávala na nulu, přenos se úplně zastavil. A průměrná rychlost tohoto disku byla nakonec horší než rychlost kdejaké flešky.

Předtím jsem prováděl několik opakovaných měření pomocí hdparm -t a ty tak špatně nedopadly (buffered disk reads):

/dev/md0:                        
 Timing buffered disk reads:  362 MB in  3.00 seconds = 120.55 MB/sec
 Timing buffered disk reads:  268 MB in  3.01 seconds =  89.16 MB/sec
 Timing buffered disk reads:  272 MB in  3.00 seconds =  90.59 MB/sec
 Timing buffered disk reads:  368 MB in  3.00 seconds = 122.50 MB/sec
 Timing buffered disk reads:  240 MB in  3.01 seconds =  79.80 MB/sec
/dev/sda1:                       
 Timing buffered disk reads:  266 MB in  3.01 seconds =  88.30 MB/sec
 Timing buffered disk reads:  266 MB in  3.02 seconds =  87.97 MB/sec
 Timing buffered disk reads:  248 MB in  3.01 seconds =  82.26 MB/sec
 Timing buffered disk reads:  274 MB in  3.01 seconds =  90.99 MB/sec
 Timing buffered disk reads:  274 MB in  3.01 seconds =  91.01 MB/sec
/dev/sdb1:                                                           
 Timing buffered disk reads:  366 MB in  3.01 seconds = 121.72 MB/sec
 Timing buffered disk reads:  362 MB in  3.00 seconds = 120.57 MB/sec
 Timing buffered disk reads:  368 MB in  3.01 seconds = 122.43 MB/sec
 Timing buffered disk reads:  362 MB in  3.00 seconds = 120.48 MB/sec
 Timing buffered disk reads:  366 MB in  3.01 seconds = 121.54 MB/sec

Po chvíli jsem pustil čtení znova, tentokrát 10 GB a dopadlo to úplně jinak:

# dd if=/dev/sda1 bs=1M count=10240 | pv > /dev/null
  10GB 0:01:39 [ 102MB/s]
10240+0 vstoupivších záznamů
10240+0 vystoupivších záznamů
10 737 418 240 bajtů (11 GB) zkopírováno, 99,9046 s, 107 MB/s

# dd if=/dev/md0 bs=1M count=10240 | pv > /dev/null
10240+0 vstoupivších záznamů
10240+0 vystoupivších záznamů
10 737 418 240 bajtů (11 GB) zkopírováno, 92,5676 s, 116 MB/s
  10GB 0:01:32 [ 111MB/s]

# dd if=/dev/sdb1 bs=1M count=10240 | pv > /dev/null
10240+0 vstoupivších záznamů
10240+0 vystoupivších záznamů
10 737 418 240 bajtů (11 GB) zkopírováno, 88,7582 s, 121 MB/s
  10GB 0:01:28 [ 115MB/s]

Najednou to vypadá OK. Občas zkouším systém sledovat pomocí iotopu, ale nevšiml jsem si žádného procesu, který by nějak výrazně zatěžoval disk.

Pak jsem ale pustil čtení ještě jednou, tentokrát 20 GB a opět špatné:

# dd if=/dev/sda1 bs=2M count=10240 | pv > /dev/null
10240+0 vstoupivších záznamů
10240+0 vystoupivších záznamů
21 474 836 480 bajtů (21 GB) zkopírováno, 1 205,7 s, 17,8 MB/s
  20GB 0:20:05 [  17MB/s]

Průběžně jsem sledoval iotop a proces dd byl většinou na prvním místě – nikdo ho nepředbíhal, leda výjimečně načítala něco databáze nebo webový server. Rychlost, kterou dd četl, byla ale velice často nulová (bez zjevné příčiny – disk nezatěžoval nikdo jiný). Hned nato jsem spustil stejné čtení z druhého disku.

# dd if=/dev/sdb1 bs=2M count=10240 | pv > /dev/null
10240+0 vstoupivších záznamů
10240+0 vystoupivších záznamů
21 474 836 480 bajtů (21 GB) zkopírováno, 174,596 s, 123 MB/s
  20GB 0:02:54 [ 117MB/s]

Proces dd četl z tohoto disku (podle pv i iotopu) rychlostí kolem 100 MB/s – ale hlavně plynule, rychlost nekolísala ani nepadala na 0 MB/s.

Jelikož věštecké koule jsou celkem drahá věc, zkouším to nejdřív tady, třeba vás něco napadne. Řešením samozřejmě může být ten WD vyhodit a dát tam nějaký jiný, ale třeba se najde ekonomičtější řešení.        

Anketa

Anketa

Komentáře

[vlastikroot]

Nevypadá to moc nadějně, ostatní to řeší výměnou.

[R]

Nema ten WD nahodou 4KB sektory ("Advanced Format")? Ak ano, tak vyhodit.

[vlastikroot]

Proč? Když si člověk dá pozor na alignment, je to přirozenější (protože 4KB stránky), takže snad i lepší.

[Heron]

Proč?

[xkucf03]

Když jsem vydělil údaje ve specifikaci (kapacita ÷ počet sektorů), tak mi vychází 512.
A ukazuje mi to i hdparm -I /dev/sda:

Logical/Physical Sector size: 512 bytes

A v popisu jumperů ten Advanced Format chybí (u jiných disků je).

Už mi pomalu to WD (a celé Green IT) začíná lézt krkem, nejdřív problémy s Load_Cycle_Count a teď tohle.

[R]

Ked to nie je v tych jumperoch, tak to asi nema.

[xkucf03]

Tak co potom s tím?

Od Snajpy jsem dostal tenhle odkaz: http://community.wdc.com/t5/Desktop/WDC-WD15EARS-00z5b1-appears-to-be-working-fine/td-p/7880 (díky).

Jenže tam se píše o těch 4096 sektorech a o tom, že začátek a konec oddílu by měl odpovídat násobkům velikosti sektoru.

Zkusil jsem číst rovnou z sda (místo sda1):

dd if=/dev/sda bs=1M count=10240 skip=10240 | pv > /dev/null

Nejdřív to šlo docela dobře (normální rychlost), ale kolem šestého GB se to nějak pokazilo a rychlost čtení je 0 B/s – jen občas tam blikne 1 nebo 8 MB/s. Čtení prakticky stojí. Ale podle iotopu mu nikdo nebrání.

[R]

Pozri do SMARTu, mozno ma nejaky problem.

[xkucf03]

Podle SMARTu je údajně zdravý – teď jsem zkoušel jen -H, ale před nějakým časem i testy a vypadalo to OK (pomalé to bylo už tehdy).

Tomu disku všechno moc trvá – jak ten smartctl -H, tak třeba i zjištění teploty přes hddtemp – zatímco ten Seagate odpovídá okamžitě.

[gtz]

ten seeker jste nezkoušel ?

[xkucf03]

Podle seekeru je to taky pěkná mizérie:

# ./seeker /dev/sda
Seeker v2.0, 2007-01-15, http://www.linuxinsight.com/how_fast_is_your_disk.html
Benchmarking /dev/sda [1430799MB], wait 30 seconds...............
Results: 0 seeks/second, 2142.86 ms random access time

# ./seeker /dev/sdb
Seeker v2.0, 2007-01-15, http://www.linuxinsight.com/how_fast_is_your_disk.html
Benchmarking /dev/sdb [1430799MB], wait 30 seconds.............................
Results: 63 seeks/second, 15.63 ms random access time

Tak mi připadá, že mám v počítači místo jednoho disku kus šrotu (WD).

[mimi.vx]

maxtor uz davno neexistuje

[xkucf03]

A co je tohle? http://www.alza.cz/maxtor-diamondmax-23-500gb-d115470.htm

[Fluttershy, yay!]

Nevlastní je ale náhodou někdo jako Seagate?

[gtz]

Seagate ho koupil již před lety.

[gtz]

A co to zkusit přes seeker ? seeker Zdroják seeker.cTím se celkem slušně dá zjistit jak je rychlý který disk.

Jinak já preferuji Seagate ES.

[snajpa]

Tady si stáhni utilitku Data Lifeguard Diagnostic. Tam se mrkni, jak to s tou velikostí sektoru opravdu je.

Podle všeho WD ignoruje problém s WD15EADS-00P8B0.

Hoď ten disk prodejci na hlavu a vezmi si něco jinýho. Nevypadá to totiž, že by WD chtěl tenhle problém nějak řešit.

[snajpa]

Tak 4k sektory (Advanced disk format) má podle všeho jenom EARS řada, ne EADS. Čili je něco shnilého s tímhle diskem.

[Shadow]

WD se překonává, jak vidím. Jedna problémová série za druhou. No nic, pro mne tahle firma zůstává v blacklistu.

[frEon]

mam tehle disku nasazenejch kolem stovky a sou celkem v pohode...

[frEon]

anketa ohledne pouzitych technologii zajimava... krom zfs a ext4 sem zaskrtal vsechno

[Salamek]

ja mel s WD v minulosti spatne zkusenosti,vsechny diky ktere mi jen tak umrely byly od WD (jiny disk co by jen tak umrel jsem jeste nevidel) od te doby bych si WD proste nekoupil,a jak to tak pozoruji tak delam jen dobre

[xkucf03]

Koupím 1,5 TB dětského porna (případně zvířecího nebo i normálního). Zn. příprava disku na reklamaci.

[Begleiter]

Za svůj život jsem pravda měl jenom dva pevný disky značky WD, ale oba dva dost rychle umřely.

Na druhou stranu s disky od Seagate mám dobrou zkušenost.

[xkucf03]

Já jsem vždycky WD považoval za dobrou značku a neměl jsem s nimi problémy – až teď s temi zelenými a s tímhle pomalým. Vypadá to, že taky přejdu na Seagate.

[gtz]

WD byly dobré do 500GB. Od verze 750GB se disky nějak začaly kazit. No doporučuji reklamaci, místo WD bych viděl nějaký ES disk od Seagate. Hitachi má také slušné SATA disky, ale jsou o něco hlučnější než Seagate.

No reklamovat i tak, že se tam udělá jeden oddíl NTFS/FAT32, a další 3 Linux XFS/EXT4 a spolehlivě z toho žádný chytrák nic nedostane. No oni se stejně dívají jen na to co vypíše utilita od WD. V každém případě přiložit log z nějakého SW.

[R]

Pred reklamaciou sa robi dd if=/dev/zero of=... To plati za predpokladu, ze disk este aspon trochu funguje.

[xkucf03]

On funguje, ale děsně pomalu – momentálně 5,3 MB/s. A nedávám tam zero, ale náhodná data. Beztak je potřeba ten disk přepsat několikrát (7x?), aby z něj zaručeně nešlo nic obnovit. Hlavně, že jsem tu o tom nedávno psal. A teď si to „užívám“ prakticky.

[R]

Tych 7x je nejaky americky armadny predpis, normalnemu cloveku staci raz a nulami.

[Aleš Kapica]

No reklamovat i tak, že se tam udělá jeden oddíl NTFS/FAT32, a další 3 Linux XFS/EXT4 a spolehlivě z toho žádný chytrák nic nedostane.

Komiku.. Viz wikibooks - Jak postupovat při záchraně dat. Postupy lze uplatnit na libovolný souborový systém, pokud není šifrovaný.

[Limoto]

Ty zelený disky, obzvlášť ty od WD, jsou asi nějaký prokletý. Jinak doporučuju Samsung...

[Václav "Darm" Novák]

Se Samsungem mám poslední dobou také dobré zkušenosti...

[TomCat]

Možná bude pro některé jedince překvapením, že není disk jako disk...

Konkrétně třeba WD má 3.5" desktopové disky ve dvou různých řadách (shitové CAVIAR BLUE s tříletou zárukou a slušné CAVIAR BLACK s tří a pětiletou zárukou) a dále "serverové" (resp. pro náročné použití) RAID EDITION s pětiletou zárukou. Dále řadu AV (audio/video) se sníženou hlučností a prakticky ke všemu GREEN varianty ("úsporné" jak co se týče spotřeby, tak i výkonu a životnosti).

Osobně kupuji výhradně disky CAVIAR RE (i když jsou výrazně dražší), případně pro nenáročné použití (přenosné či zálohovací disky) CAVIAR BLACK. Několika "green" disků jsem se po otestování rychle zbavil - nízký výkon (daný hlavně nižšími otáčkami okolo 5400 RPM) a nízká spolehlivost. Za poslední asi 3 roky mi prošlo rukama přes 100 SATA disků různých výrobců osazených v serverech i pracovních stanicích, takže si troufám tvrdit, že mám k posouzení o dost významnější vzorek než běžný jedinec, který ve svém domácím PC vystřídal dva nebo tři HDD...

A mimochodem: jen za poslední rok jsem řešil 11 vadných disků (úplně k.o. nebo těsně před kolapsam dle S.M.A.R.T.) a kupodivu jen JEDEN z nich byl WD (starší 320GB), zbytek všechno Seagate. Aktuálně třeba reklamuju 6 z 8 ks 750GB disků Seagate ES, které jsem pořídil před necelými třemi lety do jednoho storage serveru. Odešly v rozmezí dvou měsíců (ještě že mají pětiletou záruku). S disky WD mám jen ty nejlepší zkušenosti. Možná proto, že se vyhýbám levným ošizeným shitům (je jedno od kterého výrobce, shit je shit).

[pedro]

Nj, ale takhle (koupit drazsi a snad i kvalitnejsi vyrobek) si umi poradit kazdy i bez doporuceni.

[xkucf03]

Hlavně původní význam zkratky RAID je Redundant Array of Inexpensive Disks. Proto je trochu zvláštní, když disky RAID Edition jsou extra drahé

Jsem smířený s tím, že disk může čas od času odejít, proto jsem použil RAID 1, nemusím mít v domácím serveru extra spolehlivý disk, stačí, když neodejdou oba ve stejnou dobu (proto jsem taky kupoval jeden Seagate a jeden WD). Ale že si koupím takový „shit“ že bude fungovat víc než 10x pomalejší rychlostí, než by měl, to jsem nečekal – ani u levných disků.

[Aleš Kapica]

To je zajímavé. Mně odešel za uplynulých deset let jediný Seagate - Cca tři roky starý, nepříliš používaný (má "natočeno" jen 116 cyklů) ST3750640AS Seagate Barracuda 7200.10 family a že mi jich taky pár prošlo pod rukama. Některé mají už skoro deset let a stále jedou. Ovšem zaujala mě věta: "nebo těsně před kolapsam dle S.M.A.R.T.". Možná je to nošení dříví do lesa, ale právě výpis S.M.A.R.T. u SEagate se od toho co má WD ZÁSADNĚ liší.

U Seagate je pro informaci o zdraví disků nutné porovnat hodnoty Hardware_ECC_Recovered a Raw_Read_Error_Rate (musí se shodovat). Kdežto u WD musí být hodnota Raw_Read_Error_Rate nulová!

Moje zkušenost je taková, že obecně jsou disky Seagate spolehlivější bez ohledu na řadu, zatímco u WD opravdu velmi záleží na tom o jakou řadu jde. A jelikož v tom jejich značkování se prase vyzná, preferuji disky od Seagate.

[xkucf03]

Nakonec jsem WD disk z RAIDu vyndal a nahrál na něj náhodná data* a to šlo děsně pomalu (cca 5-10 MB/s). Pak jsem zase zkoušel čtení a bylo přiměřeně rychlé (kolem 100 MB/s). Pustil jsem dlouhý SMART test a dopadl dobře. Zkoušel jsem i seeker a disk se zdál v pořádku. Byl jsem sice rozhodnutý ho jít reklamovat, ale teď jaksi nebylo kvůli čemu. Tak jsem ho zase zkusil do RAIDu vrátit a opět je pomalý (i seeker i čtení/zápis). Napadá někoho rozumné vysvětlení? Dost divné mi přijde, že synchronizace RAIDu proběhla relativně rychle, resp. normálně rychle (netrvalo to tři dny) rychlostí kolem 60 MB/s. Ale teď je zase pomalý.

*) tak úplně náhodná nebyla, byly to nahrané pořady z televize

[Aleš Kapica]

Být tebou, hledám úzké hrdlo v LVM.

[xkucf03]

Vždyť LVM je až nad tím RAIDem. Tak na to snad LVM nemůže mít vliv, ne? A disk je pomalý i když zkouším číst rovnou z md0 nebo sda. Na dvou dalších počítačích mám stejnou konfiguraci (LVM nad SW RAIDem) a tam jsem s výkonem spokojený.

[petr_p]

Vyndal zandal z pole jen softwarově, nebo v jiném stroji?

[xkucf03]

Jen softwarově. Ale asi zkusím ještě jiný stroj. Zřejmě si koupím ještě jeden disk a s tím WD si ještě trochu pohraju – buď na něm zjistím nějaké prokazatelné* vady nebo si ho nechám na zálohování.

*) protože s tím, co jsem zatím zjistil bych toho asi moc nevyreklamoval – už se vidím v obchodě, jak tvrdím, že je to křáp a on jako na potvoru bude zrovna fungovat

[frr]

Přesně tohle jsem pozoroval u mírně jetých Raptorů (~2 roky). A taky u cca 8 let staré 20GB Barracudy. Mám k tomu hypotézu: po nějaké době data v sektorech "vadnou". Nemluvím o naváděcích značkách, které se vyrábí ve fabrice na holých plotnách speciálním strojem - mluvím o payloadu uvnitř sektorů. Vadnoucí payload dělá disku problémy při čtení. Když celý disk přepíšete třeba jenom nulami, voila: chová se jak nový. Protože má ve všech sektorech čerstvá data. Ale nechte ho pár dní točit read-only čtení, dost možná začne kravit znova. Zmíněné Raptory začly znova zlobit po týdnu. Barracuda funguje dál.
Zejména pokud je disk hodně nový, a už mu "vadne obsah sektorů", řekl bych, že asi plotny nebudou úplně nejlepší materiál...

Vážně uvažuju o tom, že si napíšu nějakou utilitu na "refresh obsahu disků". Bude brát sekvenčně celý povrch - vždycky přečte větší blok dat a zapíše ho zpátky na stejné místo. Taky by se nad tím mohli zamyslet výrobci RAIDů...