Spolehlivost velkých disků (diskuse)

[David Watzke]

Jen tak pro zajímavost, jak dlouho trvá r/w badblocks 1 TB disku?

[zito]

teď nevím kolik to bylo pro 1T, ale bude to nejspíš o 1/3 méně než u toho 1.5T. Teda badblocks na 1.5T disk s -c 16384 (asi) mě trval cca 45h.

[multi]

zdar

Zajimave pozorovani, skoda ze ja se v tech hodnotach SMART zkoro nevyznam. Akorad doufam a predpokladam, ze chybu v sektoru je disk schopny dopocitat podle kontrolnich souctu a pak ho alokuje na jiny zatim dokonali sektor.

Jinak ja mam taky WDC WD15EADS-00P8B0 nastesti v RAID1 se seagetem.

Taky mam dost necekanou zkusenost s diskem, novy WD asi 500GB (mimochodem v IBM serveru) odpadl hnedka pri sychronizaci RAID 1

[Jendа]

Nezávidím. A to se mám tedy na co těšit. Používám menší disky, největší, se kterým jsem se zatím setkal, byl 320GB, a musím zaklepat. Ťuk ťuk. Možná jsou trable s TB disky způsobeny tím, že mají stopy hustěji a inženýři ještě pořádně neodladili potřebnou jemnější mechaniku…

[Jendа]

A ještě by mě zajímalo, kolik dělá silent data corruption u takto velkých disků. Obávám se, že se bude projevovat častěji.

[gtz]

Mýma rukama prošlo pár desítek a stovek disků ( moje pracovní náplň jsou storage a disková pole NAS,SAN ), normálnímu disku WD nad 750GB bych nesvěřil vůbec nic.

Ideálním diskem a možná i o něco dražším modelem jsou Seagate ES v externím boxu pak Extremme verze. U Seagate jsem se nesetkal s chybami jako u WDC. WDC někdy chtělo spát GREEN chrápou rády ( a to i na poli v R5 ), takže nakonec jsme začali používat ES řadu od Seagate místo WD RAID Edition.

U WDC mám i takové zkušenosti, že jsem odebíral 40 ks ( tehdy 200GB ) a pak jsem poslal 20 disků na reklamace. Realocované bloky, blbá přístupová doba apod.

Pro WDC existuje jejich WDC utilita, která Vám řekne zda je disk dobrý nebo špatný (Data lifeGuard Diagnostic)

[brk]

No to si mne moc nepotěšil. Mám 4x1TB v levném WD NASku. Můžu něčím zjistit stav disků v téhle škatuli, bez toho, abych je musel vytahovat?

[gtz]

WDC download pro WD Share. Diagnostika tam myslím není.

Možná někde v příručce je ukryta možnost udělat nějakou diagnostiku jak disků tak celého systmu. NASy to obvykle mívají.

[gtz]

Ve firmware v ovládací části snad nějaká diagnostika by měla být, pokud je to standardní NAS.

WDC Greenum se vyhýbám jak mohu a používám vždy Seagate ES nebo pokud musím pak WD RAID Editions - jsou sice dražší, ale jsou certifikované na provoz 24x7x365.

[trekker.dk]

Proto disky radši nakupuju po třech a dávám je do RAIDu

[Jendа]

Ještě pokud možno každý z jiné série nebo i od jiného výrobce…

[gtz]

Každý disk od jiného výrobce má jinou geometrii, na to pak pozor některá zařízení to nemají moc ráda. Série by měly být stejné, ale setkal jsem se s tím, že jsem dodávku 4 ks WDC SATA RE poslal nazpět kvůli vadám již z výroby. Použilo se tam Seagate ES a bylo to v pohodě.

Vyplatilo se mi používat disky ES certfikované pro 24x7x365

[Jendа]

Myslel jsem to tak, že disky stejné série mají tendenci chcípat v podobný čas.

[gtz]

kdepak ... jeden disk tuším 500GB SATA od Seagate jede bez ztráty květinky již druhým rokem a dva disky již před rokem byly poslány do reklamačního nebe.

Místo nich jsme dostali ne nové disky,ale "refurbished" náhradu. I výrobce toto dělají aby nemuseli dávat nový disk za nějaký starší kousek.

btw. stejná série disků NS

[multi]

"refurbished"

a to je co? nejaka sleva? nebo ojete disky?

[gtz]

Příloha:

• p1090599.jpg (369017 bytů)

Jsou to disky, které se vrací obecně z reklamace ( přikládám fotku disku ),stává se , že místo toho, aby jste dostali nový disk, tak dostanete "refurbished". Děje se tak ,kdy třeba vracíte disk do reklamace po 2 letech a výrobce ani dodavatel Vám nemusí dát náhradní kus "nový", ale jen takový, aby splnil záruku tedy opravený.

Refurbished jsou disky repairované v nějaké továrně Maxtor-seagate-wd apod.

[trekker.dk]

smartctl -a /dev/sda
smartctl 5.39 2009-10-10 r2955 [x86_64-unknown-linux-gnu] (local build)
Copyright (C) 2002-9 by Bruce Allen, http://smartmontools.sourceforge.net

=== START OF INFORMATION SECTION ===
Model Family:     Seagate Barracuda 7200.12 family
...

smartctl -a /dev/sdb
smartctl 5.39 2009-10-10 r2955 [x86_64-unknown-linux-gnu] (local build)
Copyright (C) 2002-9 by Bruce Allen, http://smartmontools.sourceforge.net

=== START OF INFORMATION SECTION ===
Model Family:     Seagate Maxtor DiamondMax 23
...

smartctl -a /dev/sdc
smartctl 5.39 2009-10-10 r2955 [x86_64-unknown-linux-gnu] (local build)
Copyright (C) 2002-9 by Bruce Allen, http://smartmontools.sourceforge.net

=== START OF INFORMATION SECTION ===
Model Family:     Western Digital Caviar Green family

[sxznam]

Nový disk stačí projet krátkým smart selftestem. Moderní HDD mají zásobu náhradních sektorů a vlastní algoritmy pro nahrazovaní těch vadných. Není toho příliš co můžete jako uživatel sám ovlivnit. Jestli chcete bezpečná data, pak zálohujte. Jestli chcete nepřerušenou funkčnost, použijte RAID pole. Tohle je čiré blázinovtství bez jakéhokoli smyslu.

[gtz]

Nemohu souhlasit, disk sám o sobě nic neudělá jen označí blok "B", vše ostatní má na starosti systém ať už Widle nebo Linux.

Zásoba náhradních sektorů - no ty jsou uložena vždy na začátku disku, místo na flash-ram jak bývalo zvykem, ale k nim se systém vůbec nedostane to je jen pro servisní utility a servis.

[Kvakor]

Mirror má ještě jednu výhodu - je možné otestova" povrch zápisem během zrcadlení, ale narozdíl od programů typu badblocks lze během toho s disky pracovat. Pokud se takto navzájem zezrcadlí oba disky (prvně první na druhý, pak zas druhý na první), je celý povrch otestovaný zápisem.

[zito]

No, je jisté, že mirror by byl mnohem komfortnější, ale zrovna to co popisujete mi nepřijde jako terno. Protože jestli jsem to dobře pochopil, tak byste přepisoval jedněmi a týmiž daty. Jenomže badblocks tam zapisuje různé vzory a jak jsem teď zjistil, tak to taky není nic moc, protože po tom co již proběhl celý cyklus badblocks 0xAA, 0x55, 0xFF, 0x00 bez chyb, tak po nakopírování těch 600GB dat tam vzniklo dalších 190 vadných sektorů. To může být také způsobeno krom pestřejších zapisovaných dat také větším vystavováním hlaviček (zápisy metadat) - tedy jiný režim zápisu. Jakmile zkontroluju původní 1T disk, tak ten 1.5T zřejmě zkusím ještě podrobit badblocks -t random, abych si udělal obrázek co to s tím udělá. Obávám se, že nutnost reklamace je již jistá.

Ale jak jsem psal v předchozím příspěvku. Nechtěl jsem z principu, aby běžely oba disky zároveň. Proto ne mirror.

[gtz]

Pak použít servisní utility od výrobce, ty povětšinou jsou i pro Linux.Ale třeba WDC má tyto utility přes FDD boot a funguje to celkem dobře.

[zito]

Asi jste nepochopil o co mi šlo. Já chtěl disk, který příležitostně připojím k počítači pomocí HDD Holderu/docking station přes eSATA a ten disk bude sloužit na zálohování. Né, že já to disk budu zálohovat. Teda jestli víte o nějakém rozumném způsobu pro zálohování stovek gigabajtů pro domácí použití (nenavrhujte profesionální produkty za X kKč), tak napište. Na disky jsem chtěl zálohovat střídavě, aby v případě nějaké elektrické katastrofy neodešlo všechno naráz. Proto ne RAID1.

1. S tou realokací je to jak jsem psal v blogu, tedy pokud někdo nezačne vadný sektor přepisovat, disk s tím nic neudělá. Jestliže si tedy spustíte fsck -c, tak se vadný blok zapíše do seznamu vadných bloků a už tam zůstane a v případě SMARTU to v podstatě znamená konec testování, neboť. SMART long test narazí na první nečitelný sektor a končí jak vidíte v logách SMARTu. Tedy Vaše představa je poněkud naivní.

2. Není IMO od věci provést zahoření disku (to přesně reprezentuje to testování read-write badblocks), protože jak ukazují statistiky, nejvíce poruch je na začátku provozu disku (výrobní vady), pak poruchovost klesá a pak to zase začne stoupat na konci života disku. Tedy než disku začnu nějaká důležitá data svěřovat, tak vidím jako rozumné ho trochu prohnat a do všech sektorů zkusit párkrát zapsat.

[sxznam]

ad 1) V tom případě data přesouvám, HDD reklamuji a měním ihned za nový.

[gtz]

Oprávněná reklamace je od cca 3 realocovaných sektorů.

[gtz]

Seagate Extreme editions ... dělá se ve verzích 1 TB a výše a lze připojit jak pro eSATA,USB,FIREWIRE. Mám s ním ty nejlepší zkušenosti.

Ad.1 jak jsem psal dříve, naivně zde někdo psal, že HDD má nějaké vlastnosti a dostatek freee sektorů. To je jen omyl, tyto nástroje apod. se dají vyvolat a použít jen přes servisní utility-ty které má výrobce a servisní střediska.

Souhlasím s Váma

Ad 2.Stačí pro zahoření ho nechat syncnout v RAID5 s dalšími HDD. Otázkou je jen kolik disků a jak. I blbý Mirror postačuje - pokud synchronizace je dokončená je to v pohodě. U mirroru je ideální při synchronizaci plnit diskovou oblast nějakými daty, třeba jen z /dev/urandom.

[Heron]

+1 za trpělivost při testech.

U desktopových "konzumních" disků bych to ještě trochu přežil. Bohužel nám odcházejí i SAS disky.

Doma používám WD FYPS (Green power raid edition) jenže jsou šíleně pomalé (60MB/s, 5400rpm). Ty drží (no jenže jsou 2x dražší jak normální disk). Samsung F1 1TB je sice formule (120MB/s 7200rpm), ale po necelém roce má dva vadný sektory. Teď jsem koupil Seagate 7200.12 1TB, ale ne ES (nikdo neměl na skladě). Tak uvidíme.

Mám všechno v mirrorech + backup.

[gtz]

já bych počkal ES je nutnost. Normální disky nesjou stavěná na celodenní provoz ( ložiska apod. ) NS disky jsou také celkem schopné, ale ty "NS" bohužel nejsou vybírány jak "ES" z série.

SAS disky problémy mají disky 73G a 147GB starších várek (teplota,hlučnost), doporučuju FUJITSI ty jsou serverové a celkem spolehlivé.

[cthulhu]

a - světe div se - odcházejí i daleko dražší FC disky..

[gtz]

ale ty se obratem mění za nové. Třeba Hitachi má na svých polích funkce, která uvědomuje servis, že se něco děje. Pak se stane to, že do firmy přijede servisák na výměnu disku a správce IS se ptá proč ? Servisák odpoví, že zítra ten disk klekne.

PSNemyslel jste ty HP FC-SATA potvory ? FC disk který lze dát do FC i SATA pozice ?

[cthulhu]

to byla taková sarkastická poznámka. Umírají totiž všechny disky bez ohledu na cenu a nemá cenu se s tím moc vzrušovat:) S větší kapacitou disků roste i doba synchronizace degradovaného pole a tím i pravděpodobnost selhání dalších disků. Proto se dnes více používá RAID-6 /RAID-Z2 a počet parit bude imho dále vzrůstat. Některé řady serverů od Sunu mají interní FC disky, stejně jako např. produkty EMC / Hitachi v enterprise segmentu. Že by se zde disky měnily "preventivně", protože zítra možná umřou je imho trošku naivní představa. Mění se až umřou a ano, zavolají si modemem "domů". Představa že admin se stovkami-tisícovkami disků bude neustále skenovat všechny servery a řešit každou ptákovinu co kde za SCSI command neproběhlo a proč je někde badblock tak by asi skončil v Bohnicích. tož tak

[gtz]

Znám HITACHI dost dobře, pár let je již dělám :) AMS HITACHI pro enterprisse segmenty mají diagnostiku celkem dokonale provedenou, stalo se mi, že mi volal zákazník proč mu přišel servisák od Hitachi do firmy, že neví , že se něco polámalo. No a servisák mu říkal, že pole hlásilo, že 2 disky mají warning a proto je pro jistotu přišel zkontrolovat a vyměnit za nové.

Admin nescanuje disky to provádí obslužný sw na poli. Samozřejmně je nutné povolení mašiny přístup na svůj server ven ( jen UDP porty ).

Jak budu scanovat FC disky, když vidím pouze celé pole třeba s 144 disky FC ?? to prostě nejde ... proto to dělá systém sám. ( FC pole + 4x expandery a stejně pokud to mám přes FC QLOGIC připojené tak stejně vidím jen LVM nebo celý Raid )

[cthulhu]

"2 disky měly warning" je informace jako "svítila červená tak jsem to rači votočil". Netvrdím, že se s takovým proaktivním přístupem zákazník nemůže setkat, ale tipnul bych si, že bude spíš ojedinělé. S tou analýzou povrchu byla spíš narážka na smysl takového článku, datacentra nemají zpravidla disky jen přes optiku, jsou zde také lokální disky/JBODy/atp. a to samo o sobě může hodit zajimavá čísla; imho má smysl řešit až degradované pole (což samo o sobě nemusí znamenat výměnu disku), sjíždět pravidelně celý disky kvůli chybám mi přijde jako masochismus (který nutnost záloh nenahradí), ale každému co jeho jest.

[gtz]

Je to v rámci servisních služeb ( tvrdě placených ) u HITACHI vyšších řad. Datacentra co znám mají 90% přes SAN ( FC ), zbytek přes NAS,iSCSI apod.

Degradované pole no to je celkem někdy průser - pokud je tam Spare je to v pohodě, pokud nějaký "šetřílek" nastaví R5 nebo R6 bez HS pak se může jen modlit, aby HS zaskočily a systém nahlásil poruchu.

Dělám toto ( NAS,SAN,FC apod.) od roku 2002 a vím co jsou s tím za problémy,když se něco stane ( no viděl jsem jak jeden disk na SATA vzal sebou další kousek ) no bylo to na JBOD jednotce ( 3WARE SATA ESCALADE 16 port. 9000 ).

tuná na tomto systému x880 to by byl masochismus s disky :)

Samozřejmně se u SAN musí pravidelně zálohovat někam na pásku ( Loader apod.) přes třeba NetVault nebo LEGATO.

[Max]

500GB verze jedině Seagate (velmi povedená serie - výkon a hlučnost parádní, poruchovost taktéž), 1TB jedině WD Black Edition (taktéž velmi povedená serie, dobrý výkon a malá poruchovost, hlučnost nula nula nic). Vyšším kapacitám už bych nevěřil ani omylem.
Zdar Max

[koulinek]

Je to loterie, nekdy odejdou v rychlem sledu za sebou i dva disky jedne serie a v zapeti i treti vymeneny jiz novejsi (zkusenost v praci s 1.5TB WD). Osobne uprednostnuji na doma disky s 5 let zarukou, uz se mi to vyplatilo a vyreklamoval sem takovy WD 320GB RE1 za RE3. Jinak sem mel rekl bych stesti na disky, ze vsech komplu a disku to byl teprv druhej umrtvenej, NO.1 byl z legendarni nepovedene serie IBM 60GB disků. A to sem zacinal nekde na kapacite 85MB Seagate, tak jich mohlo byt odhadem 15 -20 co sem jich v komplech vystridal. Znacky sem preferoval nejdrive Seagate, pak sem zkusil Quantum i ten IBM a zakotvil u WD. Dnes bych volil Seagate nebo WD.

[otasomil]

Inu pro ukladani videa (filmy a pod) je celkem sumak zda v souboru velikosti cca 1 GB je nekolik chyb pac je pri prehravani ani nepostrehnete. Troufal bych si rict ze pokud bude chybet i 5 % dat z tohoto souboru tak to divak ani nepostrehne. Musi si s tim ovsem poradi prehravac to je bez debat. Toto vsak byva bezproblemu.

Pokud se vsak vlivem vadnych bloku ztradi data z konfiguracniho souboru velikosti radove bajty az kilobajty tak to je pruser ovsem.

Vyrobcum je jasny ze HDD slouzi k ukladani multimedialnich souboru gigabajtovych velikosti  a tam se nejaky vadny sektor ztrati.

Proto se na 0 badblock pece.

[Ondrej 'SanTiago' Zajicek]

Inu pro ukladani videa (filmy a pod) je celkem sumak zda v souboru velikosti cca 1 GB je nekolik chyb pac je pri prehravani ani nepostrehnete.

To neni pravda. Kvuli kompresi jsou chyby mnohem vyraznejsi. Napriklad jednobitova chyba se muze projevit jako jako uplne rozhozeny blok (treba 8*8 pixelu) a ten defekt muze zustat videt delsi dobu (treba do dalsiho I-frame).

[Miloslav Ponkrác]

Obávám se, že 5% je už docela dobře postřehnutelných.

Nicméně HDD se dělají tak, jak jim současná výrobní cena dovolí.

Budeme ještě všichni škytat po spolehlivosti hardddisků až se rozšíří MLC SSD (a to se samozřejmě rozšíří). To bude legrace.

[andree]

horsie je, ak sa ti tych 5% z 1GB trafi do tabuliek filesystemu.... :)

[..... Izak .....]

)) nejlepe do XFS ... to je pak bzunda ... xfs_repair -L a jedem jak na LSD )