abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
dnes 17:25 | IT novinky

Do prodeje (Farnell) se dostal jednodeskový počítač Tinker Board (unboxing). Jedná se o konkurenci Raspberry Pi 3 od společnosti Asus. Porovnání (jpg) těchto počítačů například na CNXSoft. Cena Tinker Boardu je 55 £.

Ladislav Hagara | Komentářů: 0
dnes 14:44 | Zajímavý projekt

Byla zveřejněna pravidla hackerské soutěže Pwn2Own 2017, jež proběhne od 15. do 17. března v rámci bezpečnostní konference CanSecWes ve Vancouveru. Soutěžit se bude o více než milion dolarů v pěti kategoriích. Letos se bude útočit i na Ubuntu. Jedná se již o 10. ročník této soutěže.

Ladislav Hagara | Komentářů: 1
dnes 13:33 | Nová verze

Po sedmi měsících vývoje od vydání verze 5.7 byla vydána verze 5.8 (YouTube) toolkitu Qt. Z novinek lze zmínit například Qt Lite pro vestavěná zařízení. Nově jsou plně podporovány moduly Qt Wayland Compositor (YouTube) a Qt SCXML (YouTube). Současně byla vydána verze 4.2.1 integrovaného vývojového prostředí (IDE) Qt Creator.

Ladislav Hagara | Komentářů: 0
dnes 11:52 | Pozvánky

Lednový Prague Containers Meetup se koná ve čtvrtek 26. ledna 2017 od 18:00 v Apiary, Pernerova 49, Praha 8. Přijďte se podívat na přednášky o Enterprise Kubernetes a Jenkins as a code.

little-drunk-jesus | Komentářů: 0
dnes 11:40 | Pozvánky

Program letošního ročníku konference Prague PostgreSQL Developer Days, která se koná již 15. a 16. února 2017 na ČVUT FIT, Thákurova 9, Praha 6, byl dnes zveřejněn. Najdete ho na stránkách konference včetně anotací přednášek a školení. Registrace na konferenci bude otevřena zítra (24. ledna) v brzkých odpoledních hodinách.

TomasVondra | Komentářů: 0
včera 02:20 | Zajímavý článek

David Revoy, autor open source webového komiksu Pepper&Carrot nebo portrétu GNU/Linuxu, upozorňuje na svém blogu, že nový Inkscape 0.92 rozbíjí dokumenty vytvořené v předchozích verzích Inkscape. Problém by měl být vyřešen v Inkscape 0.92.2 [reddit].

Ladislav Hagara | Komentářů: 0
včera 02:02 | Komunita

Øyvind Kolås, hlavní vývojář grafických knihoven GEGL a babl, které využívá grafický program GIMP, žádá o podporu na Patreonu. Díky ní bude moci pracovat na vývoji na plný úvazek. Milník 1000 $, který by stačil na holé přežití, se již téměř podařilo vybrat, dalším cílem je dosažení 2500 $, které mu umožní běžně fungovat ve společnosti.

xkomczax | Komentářů: 12
21.1. 23:54 | Pozvánky

DevConf.cz 2017, již devátý ročník jedné z největších akcí zaměřených na Linux a open source ve střední Evropě, proběhne od pátku 27. ledna do neděle 29. ledna v prostorách Fakulty informačních technologií Vysokého učení technického v Brně. Na programu je celá řada zajímavých přednášek a workshopů. Letos je povinná registrace.

Ladislav Hagara | Komentářů: 0
21.1. 22:11 | Nová verze

Byla vydána verze 1.0.0 emulátoru terminálu Terminology postaveného nad EFL (Enlightenment Foundation Libraries). Přehled novinek v poznámkách k vydání.

Ladislav Hagara | Komentářů: 0
20.1. 17:00 | Nová verze

Byl vydán Docker 1.13. Přehled novinek na YouTube a v poznámkách k vydání na GitHubu. Docker umožňuje běh aplikací v softwarových kontejnerech (Wikipedia).

Ladislav Hagara | Komentářů: 7
Jak se stavíte k trendu ztenčování přenosných zařízení (smartphony, notebooky)?
 (11%)
 (2%)
 (73%)
 (3%)
 (10%)
Celkem 377 hlasů
 Komentářů: 28, poslední dnes 17:14
Rozcestník
Reklama

Dotaz: sw vs hw raid

28.10.2011 19:54 cx0
sw vs hw raid
Přečteno: 831×
Zdravím vás,

prosím o radu.

Na serveru máme 2x500GB 3G disky .. a při velkém zapisování a prácí se soubory (zkrátka IO) jde absolutně do háje a vždy se přetíží, je tam sw raid.

Prosím, potvrďte mi, že s HH raidem 256MB to bude úplně jiná liga.. nerad bych to koupil a zjistil že to je minimální rozdíl.

Díky zkušení :)

Odpovědi

28.10.2011 20:03 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Pokud tam nemáte extrémně slabý procesor, neměl by SW RAID 0 nebo 1 být úzkým hrdlem, takže se obávám, že problém bude spíš v něčem jiném. Váš popis problému je ale natolik vágní, že těžko nějak spekulovat.
28.10.2011 20:13 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
díky. Ještě poprosím tedy zhodnotit druhou variantu a to..

Nyní tam jsou tedy disky 2x 500GB SAS 3G 7,2k ot 3,5"

bylo by "efektivnější" zaměnit na

SAS 15k HP 600GB 6G SAS 15K rpm LFF (3.5-inch) Dual Port Enterprise

Díky.

Co se týče procesoru, název z hlavy nepovím ale jedná se o jeden z TOP procesorů dnes a ram je 16GB.
28.10.2011 20:15 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Jak už jsem napsal: bez aspoň trochu použitelného popisu, co se vlastně děje, nemá smysl planě spekulovat. (Ne, "jde absolutně do háje a vždy se přetíží" není použitelný popis.)
28.10.2011 20:27 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
ok příklad. zálohují se databáze (mysqldump), jsou třeba velké 3gb a v tu chvíli je IO na max., load vzroste na 50, v iotop je vidět vytížení 100% md1_ (sw raid). Nebo když se mažou miliony txt souborů hromadně, tak opět se server přetíží, apache, mysql se samozřejmě ucpou, problém stejný.

procesor aktuálně nový xeon 3,2ghz.

snad to takhle stačí. díky.
28.10.2011 20:33 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Hodnota load average sama o sobě moc velkou vypovídací hodnotu nemá, spíš by bylo zajímavé, co ukazuje top, jednak ve stavech procesoru(-ů), jednak jestli u nějakého procesu nebo kernel threadu neukazuje moc velká čísla. Případně jestli procesor není vytížen něčím jiným, co by pak brzdilo softwarovou implementaci RAIDu.
28.10.2011 20:34 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Také by bylo dobré vědět, jaká je tam verze jádra (distribuce), protože implementace writebacku prošla postupem času několika zásadními změnami.
28.10.2011 21:05 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
Takže,

Kernel and CPU Linux 2.6.26-2-amd64 on x86_64 Processor information Intel(R) Xeon(R) CPU E31230 @ 3.20GHz, 8 cores

při spuštění skriptu co maže tisíce záznamů (to je ten méně náročnější, např. zabalování 10gb souboru je podstatně horší, ale i tohleto už laguje apache)

iotop: 100% io příkaz find a rm (hledá v adresáři staré soubory a maže xxx tisíc v tomto případě textových souborů)

občas ten find zmizne a místo toho tam je kjournald na 50% a na 50% cca md1_raid

top:

top - 21:01:14 up 17 days, 6:53, 2 users, load average: 6.17, 3.59, 2.01 Tasks: 180 total, 1 running, 178 sleeping, 0 stopped, 1 zombie Cpu(s): 2.7%us, 1.2%sy, 0.0%ni, 81.8%id, 13.9%wa, 0.3%hi, 0.0%si, 0.0%st Mem: 16436872k total, 15837436k used, 599436k free, 2096092k buffers Swap: 7811064k total, 764k used, 7810300k free, 8350092k cached

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 20980 mysql 20 0 4421m 2.3g 5860 S 16 14.4 1322:31 mysqld 7393 www-data 20 0 259m 15m 7480 S 2 0.1 0:00.16 apache2 877 www-data 20 0 260m 37m 28m S 1 0.2 0:15.14 apache2

28.10.2011 21:06 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
a debian 5
28.10.2011 22:10 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Nejsem zrovna specialista na tuhle problematiku, ale podle těch čísel to nevypadá, že by to brzdil SW RAID. Sice vám to ukazuje jen 13.9%wa, ale jestli tam máte osmijádro, může to klidně znamenat 100% na jednom procesoru a úzké hrdlo právě tam (schválně v topu zkuste klávesou jedničkou přepnout na režim, kdy se stavy ukazují pro každý procesor zvlášť). Co by snad mohlo pomoci, by byla změna I/O scheduleru (případně poladění parametrů) a/nebo přechod na novější jádro.
28.10.2011 23:35 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
Na druhém serveru od jiné firmy máme HW raid a kapku výkonnější disky oproti tomuto "problémovému", pomalejší CPU o trochu a server je 3x více zatížen a veškeré promazávání a archivování objemných souborů zvládá při sebevětším náporu absolutně bez problému.

Systém, verze, i kernel jsou na obou totožné, sw výbava je také stejná, config taktéž tam kde to jde.

Oba servery jsou plně aktualizované.

Tedy mi z toho plyne, že musí být problém, že chybí HW raid nebo rychlejší disky.

Nebo i přesto může být problém v jádru a konfiguraci?

Díky za trpělivost..
30.10.2011 01:37 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Můj odhad prostě je, že tento typ problémů se přechodem na HW RAID nevyřeší (ale můžu se samozřejmě mýlit).
28.10.2011 23:41 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
Přikládám screenshot: http://2i.cz/68605872a1

Ještě jednou děkuju..
30.10.2011 13:35 jaroleto
Rozbalit Rozbalit vše Re: sw vs hw raid
A stejny obrazek pro druhy server? Tady to vypada, ze nejaky typ io obstarava pouze 0. cpu
30.10.2011 14:09 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
Screen druhého (balení 2gb souboru), balí a ostatní stíhá bez omezení.

http://www.2i.cz/548eb69c4f

Díky za rady!
martin-ux avatar 30.10.2011 20:29 martin-ux | skóre: 18 | Bratislava
Rozbalit Rozbalit vše Re: sw vs hw raid
ako ti uz bolo spominane, load average je klamlivy (hlavne pri viac cpu), resp. samotne cislo ti moc nepovie.

zaujimave by bolo vidiet output z iostat za 30s ked je busy (iostat -dc 5 6), vmstat tiez pomoze.

z obrazkov co si poslal to vyzera skor, ze ten server sa nudi.

tento problem s performance sa ti objavil len teraz (a server pouzivas uz dlhsie) alebo je poskladany teraz? ako su zapojene disky v raide (radic bottleneck napriklad).

tiez uz spominali - aj odchadzajuci disk dokaze narobit problemy, nie vzdy to smart zachyti. jedna z moznosti by bola vytiahnut jeden disk, spravit testy, sync, vytiahnut druhy disk, spravit testy, sync a porovnat vysledky.
..when you do things right, people won't be sure you've done anything at all..
30.10.2011 20:46 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
tento problém je od počátku serveru, doted to bylo tolerováno.

jasně, load se brat nedá, ale běžně je pod 2, při find a balení souborů vyskáče na 120 třeba a i příkaz uptime v konzoli potom trvá dokud nekillnu to balení.

screen: http://2i.cz/40363e14c7

díky.
30.10.2011 20:56 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
z obrazkov co si poslal to vyzera skor, ze ten server sa nudi.

To bych neřekl. Problém je, že je tam úzké hrdlo v podobě jednoho procesoru, na který se koncentruje veškerá I/O zátěž.

30.10.2011 20:58 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
a dá se to prosím někde v configu upravit?

díky za trpělivost
30.10.2011 21:11 Michal Kubeček | skóre: 71 | Luštěnice
Rozbalit Rozbalit vše Re: sw vs hw raid
Tak jednoduché to bohužel není. Podstatné je zjistit, proč to tak je. Jak vypadá ten /proc/interrupts?
30.10.2011 21:17 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
úplně dolů jsem to postnul
martin-ux avatar 30.10.2011 21:13 martin-ux | skóre: 18 | Bratislava
Rozbalit Rozbalit vše Re: sw vs hw raid
bolo to myslene v duchu, ze ten server by mohol byt kludne zatazeny viac a nic by sa mu nestalo (customer si neplati za idle servery :) )

ale pravda je, ze na IO bottleneck tam naraza. tie vmstat/iostat by bolo fajn pozriet. autor problemu moc svoj server neopisal, takze nevieme ani ako/na com ma tie disky fyzicky zapojene.

..when you do things right, people won't be sure you've done anything at all..
30.10.2011 21:20 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
pravda pravda.

IOSTAT http://2i.cz/40363e14c7

interrupts níže, díky.
martin-ux avatar 30.10.2011 21:31 martin-ux | skóre: 18 | Bratislava
Rozbalit Rozbalit vše Re: sw vs hw raid
z toho obrazka to vyzera, ze si zapisoval len ~21MB/s na tie disky - pravda ? iostat -k ti zobrazi r/w v kB, nie v 512k blokoch.

ako su tie disky fyzicke zapojene ? tie disky maju 512 alebo 4k sector size? to tiez moze sposobit problemy. co za FS je na nich? bol nejak specialne naformatovany/mountnuty ?
..when you do things right, people won't be sure you've done anything at all..
30.10.2011 21:41 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
mohlo by to souhlasit, podle toho jak jsem reloadoval velikost souboru.

Fyzické zapojení netuším, počáteční instalace a zapojení měl na starosti dodavatel/serverovna.

Sector count = 256

Disk je to: http://www.globalonetechnology.com/HP_500GB_3G_SATA_7_2K_3_5_MDL_Hard_Drive_p/mb0500eamzd_new.htm

Filesystem status Used in LVM VG group

Cylinders: 60801 | Partition format: MSDOS

Snad to pomůže, díky
martin-ux avatar 30.10.2011 22:07 martin-ux | skóre: 18 | Bratislava
Rozbalit Rozbalit vše Re: sw vs hw raid
ok, takze najskor je to nejaky proliant.

v tom serveri nemas hp smart array ? ak ma ten server warranty/kontrakt tam by som to riesiel cez HW raid urcite.

ake fw maju tie disky ? podla webu tu bol fix v poslednej verzii:

Corrects a drive hang that causes long command response times and drive resets
..when you do things right, people won't be sure you've done anything at all..
30.10.2011 23:32 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
ano přesně tak.

nemá nemá.. pokud by to mělo být tím raidem, tak ten 256MB raid do toho půjde.

Firmware Version: HPG3

No presets are defined for this drive. Its identity strings: MODEL: /dev/sda FIRMWARE: (any)

Takže aktualizovat FW, případně pak RAID, chápu to správně? Díky.
31.10.2011 00:08 homunkulus
Rozbalit Rozbalit vše Re: sw vs hw raid
Zkusil bych vymenit oba SATA kabely za nove (nedelam si legraci) a zastrcit jeden do jineho SATA konektoru na zakladni desce.
martin-ux avatar 31.10.2011 16:03 martin-ux | skóre: 18 | Bratislava
Rozbalit Rozbalit vše Re: sw vs hw raid
no HPG3 je posledny fw podla webu, takze tam by som /uz/ problem nehladal.

na kontrakt som sa pytal preto, lebo pri chybe kontrolera potrebujes ten isty, aby si mohol opat precitat data; ak TTR (time to repair) nie je casovo rozumne (v zavislosti na co sa ten server vyuziva), mozno by bolo dobre mat po ruke aspon jeden nahradny kontroler (ak nie je onboard).

tak isto zo sw raidu na hw raid neprejdes bez straty dat, tj budes musiet robit full restore.

este by som skusil checknut sata kable (ako ti uz bolo spomenute kolegom dole), pripadne kontroller.

z linuxu mozes ovladat kontroller pomocou hpacucli commandu.
..when you do things right, people won't be sure you've done anything at all..
30.10.2011 22:07 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
Ještě co jsem našel:

Allocation block size 4 MB Usable size 488191168 blocks (465.58 GB) Persistent superblock? Yes

Speed test results Buffer cache: 9802.65 MB/sec Buffered: 56.08 MB/sec

HrabalVojta avatar 28.10.2011 20:19 HrabalVojta | skóre: 23 | blog: gentoo_pentoo | Třebíč
Rozbalit Rozbalit vše Re: sw vs hw raid
na to cpu "cat /proc/cpuinfo"
USE="freedom -software_patents" emerge --deep --update --newuse world
29.10.2011 23:57 Jan Kratochvíl | skóre: 12
Rozbalit Rozbalit vše Re: sw vs hw raid
Už to tu někde bylo, ale nemůže to být tím, že odchází některý disk (elektronika...) a tohle to způsobuje? Při zátěži začne systém extrémě lagovat? Zkuste tady prohledat fórum, už si nepamatuju, jak to šlo diagnostikovat...
30.10.2011 00:47 Sten
Rozbalit Rozbalit vše Re: sw vs hw raid
Když je to SW RAID, tak to bude v dmesg (resetování SATA řadiče ap.) nebo ve SMARTu, odkud to jde přečíst pomocí smartctl.
30.10.2011 12:26 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
nene disky jsou nové, smartd tam běží a je to ok..
30.10.2011 16:48 tark
Rozbalit Rozbalit vše Re: sw vs hw raid
ta diskuze byla tady - http://www.abclinuxu.cz/poradna/linux/show/344475 ... zkuste se pomocí atop podívat na vytížení disků, jestli jeden bude mít třeba 30% a druhý 100%, tak je to jasné..
30.10.2011 18:03 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
disky mají stejné vytížení, +-3% si jsou stejné. při archivaci měly oba 99% (to je to o čem píši vlastně, že prací se soubory se to celé přetíží..)
30.10.2011 14:34 ewew | skóre: 36 | blog: ewewov_blog
Rozbalit Rozbalit vše Re: sw vs hw raid
Možno to s týmto nesuvisí. Kontrolovali ste rozloženie irq, ktoré reportuje bios pri štarte systému. Použitie kernel parametrov. Daná dokumentácia by mala byť dostupná v balíku linux-doc-x.x.xx .

Ďalšia vec je, že default má filesystém v parametroch pripojenia zapnuté parametre atime,diratime. Atime je aktualizácia prístupu k súboru a diratime pre priečinky. Podorobnosti v man mount .
sec.linuxpseudosec.sk
30.10.2011 14:39 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
upravovalo se nedávno to na noatime a nijak to nezlepšilo výkon.

30.10.2011 18:36 Marv-CZ | skóre: 21
Rozbalit Rozbalit vše Re: sw vs hw raid

Nemáš možnost tam připojit stejný (nebo alespoň podobný) disk single na stejný řadič a pustit ty úlohy na něj. Pokud by to jelo dobře, tak je problém v SW RAIDu, pokud stejně blbě, tak v něčem jiné (třeba ovladač řadiče?).

30.10.2011 23:14 Jan Kratochvíl | skóre: 12
Rozbalit Rozbalit vše Re: sw vs hw raid
Souhlas, vyndat jeden disk z RAIDu, udělat z něj normální neRAID, překopírovat, nabootovat a otestovat, pokud to dělat nebude, můžeš investovat do HW raidu a možná to bude lepší, pokud to nepomůže tak už víš, že problém je úplně jinde....
31.10.2011 08:13 Marv-CZ | skóre: 21
Rozbalit Rozbalit vše Re: sw vs hw raid
Nevím, jestli bych zrovna riskoval odebrání jednoho disku s živými daty, nehledě na časovou náročnost zpětné synchronizace pole. Spíš vzít jiný kus odjinud.
30.10.2011 20:47 ewew | skóre: 36 | blog: ewewov_blog
Rozbalit Rozbalit vše Re: sw vs hw raid
Ako vyzerá súbor /proc/interrupts ?
sec.linuxpseudosec.sk
30.10.2011 21:17 cx0
Rozbalit Rozbalit vše Re: sw vs hw raid
           CPU0       CPU1       CPU2       CPU3       CPU4       CPU5       CPU6       CPU7       
  0:  706201115          0          0          0          0          0          0          0   IO-APIC-edge      timer
  1:          6          0          0          0          0          0          0          0   IO-APIC-edge      i8042
  8:          1          0          0          0          0          0          0          0   IO-APIC-edge      rtc0
  9:          0          0          0          0          0          0          0          0   IO-APIC-fasteoi   acpi
 12:          3          0          0          0          0          0          0          0   IO-APIC-edge      i8042
 16:         31          0          0          0          0          0          0          0   IO-APIC-fasteoi   uhci_hcd:usb3
 20:         28          0          0          0          0          0          0          0   IO-APIC-fasteoi   ehci_hcd:usb2
 21:         28          0          0          0          0          0          0          0   IO-APIC-fasteoi   ehci_hcd:usb1
1263:  206921644          0     899250          0          0          0          0          0   PCI-MSI-edge      ahci
1270:          2          0          0          0          0          0          0          0   PCI-MSI-edge      eth0
1271: 1733131974          0          0          0          0          0          0          0   PCI-MSI-edge      eth0-tx0
1272:  325211149          0          0          0          0    1663435          0          0   PCI-MSI-edge      eth0-rx0
NMI:          0          0          0          0          0          0          0          0   Non-maskable interrupts
LOC:   78084302  176030291  110686569   74109699  199332082   79642243   71610596   63312423   Local timer interrupts
RES:   30875760   33763225   23945114   17008641   59195261   28889151   29398115   27014669   Rescheduling interrupts
CAL:       5774       6020       6033       6032       6009       5988       5999        418   function call interrupts
TLB:    1830414    1339546    1219889     997277    2905000     917547     820990     668101   TLB shootdowns
TRM:          0          0          0          0          0          0          0          0   Thermal event interrupts
THR:          0          0          0          0          0          0          0          0   Threshold APIC interrupts
SPU:          0          0          0          0          0          0          0          0   Spurious interrupts
ERR:          0

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.