abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 00:11 | Nová verze

    Open source modální textový editor Helix, inspirovaný editory Vim, Neovim či Kakoune, byl vydán ve verzi 25.07. Přehled novinek se záznamy terminálových sezení v asciinema v oznámení na webu. Detailně v CHANGELOGu na GitHubu.

    Ladislav Hagara | Komentářů: 0
    včera 20:44 | IT novinky

    Americký výrobce čipů Nvidia získal od vlády prezidenta Donalda Trumpa souhlas s prodejem svých pokročilých počítačových čipů používaných k vývoji umělé inteligence (AI) H20 do Číny. Prodej těchto čipů speciálně upravených pro čínský trh by tak mohl být brzy obnoven, uvedla firma na svém blogu. Americká vláda zakázala prodej v dubnu, v době eskalace obchodního sporu mezi oběma zeměmi. Tehdy to zdůvodnila obavami, že by čipy mohla využívat čínská armáda.

    Ladislav Hagara | Komentářů: 4
    včera 17:22 | Nová verze

    3D software Blender byl vydán ve verzi 4.5 s prodlouženou podporou. Podrobnosti v poznámkách k vydání. Videopředstavení na YouTube.

    Ladislav Hagara | Komentářů: 0
    14.7. 22:22 | Komunita

    Open source webový aplikační framework Django slaví 20. narozeniny.

    Ladislav Hagara | Komentářů: 0
    14.7. 16:11 | Komunita

    V Brestu dnes začala konference vývojářů a uživatelů linuxové distribuce Debian DebConf25. Na programu je řada zajímavých přednášek. Sledovat je lze online.

    Ladislav Hagara | Komentářů: 0
    14.7. 11:33 | IT novinky

    Před 30 lety, tj. 14. července 1995, se začala používat přípona .mp3 pro soubory s hudbou komprimovanou pomocí MPEG-2 Audio Layer 3.

    Ladislav Hagara | Komentářů: 27
    14.7. 10:55 | IT novinky

    Výroba 8bitových domácích počítačů Commodore 64 byla ukončena v dubnu 1994. Po více než 30 letech byl představen nový oficiální Commodore 64 Ultimate (YouTube). S deskou postavenou na FPGA. Ve 3 edicích v ceně od 299 dolarů a plánovaným dodáním v říjnu a listopadu letošního roku.

    Ladislav Hagara | Komentářů: 20
    13.7. 17:55 | Zajímavý projekt

    Společnost Hugging Face ve spolupráci se společností Pollen Robotics představila open source robota Reachy Mini (YouTube). Předobjednat lze lite verzi za 299 dolarů a wireless verzi s Raspberry Pi 5 za 449 dolarů.

    Ladislav Hagara | Komentářů: 17
    11.7. 16:44 | Komunita

    Dnes v 17:30 bude oficiálně vydána open source počítačová hra DOGWALK vytvořena v 3D softwaru Blender a herním enginu Godot. Release party proběhne na YouTube od 17:00.

    Ladislav Hagara | Komentářů: 3
    11.7. 14:55 | Humor

    McDonald's se spojil se společností Paradox a pracovníky nabírá také pomocí AI řešení s virtuální asistentkou Olivii běžící na webu McHire. Ian Carroll a Sam Curry se na toto AI řešení blíže podívali a opravdu je překvapilo, že se mohli přihlásit pomocí jména 123456 a hesla 123456 a získat přístup k údajům o 64 milionech uchazečů o práci.

    Ladislav Hagara | Komentářů: 16
    Jaký je váš oblíbený skriptovací jazyk?
     (59%)
     (26%)
     (7%)
     (3%)
     (1%)
     (1%)
     (4%)
    Celkem 399 hlasů
     Komentářů: 16, poslední 8.6. 21:05
    Rozcestník

    Dotaz: Nekonzistentní LVM snapshoty

    14.4.2013 16:15 libokajn
    Nekonzistentní LVM snapshoty
    Přečteno: 842×
    Ahoj. Mám jednoduchý zálohovací skript, který jednou za čas na KVM hostu (Centos 6) vytvoří snapshoty běžících guestů a přesype je na zálohovací server. Naštěstí v tom skriptu počítám md5 hashe a všiml jsem si, že stále u jednoho lvm volumu má snapshot nekonzistentní data (udělám snapshot, udělám obraz a pak md5 snapshotu a obrazu). Zkoušel jsem ten jeden volume zálohovat ručně na lokální úložiště a problém je stejný. V dmesg žádné chybové hlášky nejsou, jakoby se zdá, že to funguje, ale nefunguje. Můžete mi s tím někdo poradit? Problémový je ten windows_server LVM volume.
    [root@kvm ~]# lvs
      LV                      VG   Attr      LSize   Pool Origin         Data%  Move Log Cpy%Sync Convert
      TESTOVACI               data -wi-ao--- 160.00g                                                     
      a1                      data -wi-ao---  40.00g                                                     
      a2                      data -wi-ao---  10.00g                                                     
      swap                    data -wi-ao---   4.88g                                                     
      system                  data -wi-ao---  19.53g                                                     
      windows_server          data owi-aos-- 120.00g                                                     
      windows_server_snapshot data swi-a-s--  25.00g      windows_server   1.40
    

    Odpovědi

    14.4.2013 18:47 wtfonym
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Můžeš doplnit sekvenci příkazů, která demonstruje problém? Objasnilo by to způsob vytváření obrazu (brr), a co konkrétně s čím se porovnává. Ty md5sumy se při následujících pokusech měnily nebo zůstávají stejné?
    14.4.2013 19:49 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    # vytvořím snapshot
    > lvcreate -s -L 25G -n windows_server_snapshot /dev/data/windows_server
    
    # vytvořím image stejným způsobem, jakým zálohuji na server se souborovým systémem ZFS, tj. přenesu jen rozdíly mezi soubory (nebo celý pokud neexistuje cílový)
    > rsync -L --inplace --no-whole-file --block-size=32768 --copy-devices /dev/data/windows_server_snapshot /testovaci/windows_server.img
    
    # md5 lvm snapshotu
    > md5sum /dev/data/windows_server_snapshot | awk '{print $1}' > /testovaci/lvm.md5
    
    # md5 lvm image
    > md5sum /testovaci/windows_server.img | awk '{print $1}' > /testovaci/file.md5
    
    > cat /testovaci/lvm.md5 /testovaci/file.md5
    65428116d1797a70949530221850cc5e
    7a17be5c0e71b193b8178343d06f2208
    
    Na ostatní LVM volumy to funguje, jen s tímto je problém.
    14.4.2013 21:14 wtfonym
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    md5sum /testovaci/windows_server.img <- predpokladam, ze tenhle volume furt zije a nejaky system do nej prubezne vesele zapisuje. Ocekavane chovani. Nemelo to byt md5sum /dev/data/windows_server_snapshot ?
    14.4.2013 21:18 wtfonym
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Moment, co to blabolim, pardon, nemumim cist. Ignorujte prosim predchozi prispevek.

    Pak jedine co mne napada, je ze by cat /dev/data/windows_server_snapshot > soubor vytvorilo soubor, jehoz velikost neni nasobkem 32 kilo a tim padem md5sum srovnava nesrovnatelne.
    14.4.2013 22:40 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Uff, vypadá to na problém v samotném LVM. Pokud 2x zavolám "md5sum /dev/data/windows_server_snapshot", nevrátí to stejný součet.
    14.4.2013 23:23 Jooky (inactive) | skóre: 39 | blog: Jooky | Bratislava
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    hmm, zaujimave. Neni ten snapshot automaticky namontovany nejakym daemonom ? (hal, dbus, automounter, etc.) Je nieco zaujimave v syslogu, alebo v kernel logu ? ... bug v lvm by som bral ako poslednu moznost, aj ked stale je to moznost.

    btw. rsync. Prenasat len rozdiely sa moc neoplati ak zdroj aj ciel je na jednej masine. Rsync si vycita cast z oboch suborov, spravi checksum a podla toho sa rozhodne ci je potrebne prepisat ciel, alebo nie. Ak bezi rsync po pomalej linke a zmien nie je vela, tak to dost urychli synchronizovanie, no vramci jedneho stroja to ma vacsinou opacny ucinok.
    15.4.2013 00:13 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    V syslogu je jen hláška po vytvoření snapshotu: "Monitoring snapshot data-windows_server". V jadernym logu nic.
    btw. rsync. Prenasat len rozdiely sa moc neoplati ak zdroj aj ciel je na jednej masine. Rsync si vycita cast z oboch suborov, spravi checksum a podla toho sa rozhodne ci je potrebne prepisat ciel, alebo nie. Ak bezi rsync po pomalej linke a zmien nie je vela, tak to dost urychli synchronizovanie, no vramci jedneho stroja to ma vacsinou opacny ucinok.
    Ten rsync mi normálně běží na vzdálený stroj, tady jsem to jen testoval.
    Jendа avatar 15.4.2013 02:06 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Dokážeš nějak lokalizovat místa změn? (binární diff, md5 jen na určité úseky zařízení (dd skip count | md5sum))
    15.4.2013 14:16 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Jo, zjistil jsem přímo adresy se špatnými daty na tom logickém volume. Ty LVMka jsou nad raidem 1. Teď zkouším badblockem s non destructive rw módem otestovat disk, který jsem odstranil z raidu a pak zkusím ten druhý. Protože pokud není problém v softwaru, pak asi tiše selhává jeden z disků.
    16.4.2013 21:05 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Teď když to běží z jednoho disku, tak to funguje dobře. Nicméně ten odpojený disk se zdá být v pořádku. Je možné, že by to bylo způsobené linuxovým raidem? Jak vlastně funguje současný linux raid 1? Koukal jsem, že se "nedávno" přidávalo do kernelu read balancing a zároveň jsem se jinde dočetl, že čas od času je raid nekonzistentní a že je to normální, protože se to opravuje při automatických pravidelných testech. Jenže jak to pozná, na kterém disku jsou správná data při opravě a jak to pozná při normálním čtení korektní data?
    17.4.2013 01:32 anonym
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    zároveň jsem se jinde dočetl, že čas od času je raid nekonzistentní a že je to normální, protože se to opravuje při automatických pravidelných testech. Jenže jak to pozná, na kterém disku jsou správná data při opravě a jak to pozná při normálním čtení korektní data?
    normalni to urcite neni, ale bohuzel se to stava (taky to je duvod proc sem z mdraid presel na ZFS, nikdy zpet) pri "oprave" se (mozna to zmenily, ale pochybuju) predpoklada ze korektni jsou data, spatne je parita (i kdyz jsou v RAID6 spatne data - pri obnove z jedny parity by ta druha sedela). co tohle znamena pro mirror si nejsem jistej, pravdepodobne ze prvni disk je "master" a predpoklada se ze ten je korektni
    18.4.2013 23:11 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Tak na degradovaném raidu to funguje bezchybně, ale na sestaveném raidu je ten problém pořád. Nevíte co s tím? Přijde mi to jako docela závažný problém mít na raidu stále nekonzistentní data.
    19.4.2013 08:54 Šangala | skóre: 56 | blog: Dutá Vrba - Wally
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    No to opravdu vypadá na nekonzistentní RAID1, data se totiž čtou z obou disků a nelze říct co kdy, tzn. dvě čtení na nekonzistentním RAID1 mohou dát jiné výsledky.
    Kdy tam proběhl resync naposledy?
    něco jako:
    echo 'check'  > /sys/block/mdXX/md/sync_action
    
    a pak
    cat /sys/block/mdXX/md/mismatch_count
    
    nebo i s opravou pole (asi první disk je master):
    echo 'repair' > /sys/block/mdXX/md/sync_action
    
    sledovat lze třeba pomocí:
    cat /proc/mdstat
    Pokud to chcete uspíšit a nebudete pole používat (ale můžete jej používat, ale možná pak bych dal první hodnotu jen 50000 či méně):
    echo 200000 /sys/block/mdXX/md/sync_speed_min
    echo 500000 /sys/block/mdXX/md/sync_speed_max
    
    mdXX - dosaďte vlastní
    To, že trpíš stihomamem, ještě neznamená, že po tobě nejdou. ⰞⰏⰉⰓⰀⰜⰉ ⰗⰞⰅⰜⰘ ⰈⰅⰏⰉ ⰒⰑⰎⰉⰁⰕⰅ ⰏⰉ ⰒⰓⰄⰅⰎ ·:⁖⁘⁙†
    19.4.2013 21:53 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Když jsem to zkoušel, tak jsem odpojil jeden disk z raidu a pak ho zase připojil, takže resync proběhl při tom. Nicméně těsně po tom to stejně není konzistentní. Pomocí echo 'check' > /sys/block/md1/md/sync_action jsem si ověřil, že se tam nachází něco přes tisíc nekonzistencí.
    20.4.2013 23:51 Šangala | skóre: 56 | blog: Dutá Vrba - Wally
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Jak dlouho probíhal resync, není problém s bitmap-ou, že byla vytvořena „nějak blbě v blbý čas nebo co“…, zkusil bych ji dát pryč mdadm --grow --bitmap=none /dev/md0 a zkusil znovu. Jinak to bude asi spíš už chyba disku…
    To, že trpíš stihomamem, ještě neznamená, že po tobě nejdou. ⰞⰏⰉⰓⰀⰜⰉ ⰗⰞⰅⰜⰘ ⰈⰅⰏⰉ ⰒⰑⰎⰉⰁⰕⰅ ⰏⰉ ⰒⰓⰄⰅⰎ ·:⁖⁘⁙†
    29.4.2013 15:27 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Pod odstranění bitmapy jsem resyncnul disky a bitmapu znovu vytvořil a pak znovu resyncnul (pro jistotu). Poté se pár hodin zdálo, že je to dobré, ale pak se to zase rozes.alo... Viz.
    194cf9a726f086aa55b0260bf96c5e46  /dev/data/windows_server_snapshot
    eb6ca7d5400489cabab0b4203a1be4c4  /dev/data/windows_server_snapshot
    7f2a9ef2cab1bb30091683675c279c63  /dev/data/windows_server_snapshot
    eb6ca7d5400489cabab0b4203a1be4c4  /dev/data/windows_server_snapshot
    194cf9a726f086aa55b0260bf96c5e46  /dev/data/windows_server_snapshot
    
    Je vidět, že tolik nesynchronizovaných bloků dat tam zase nebude, protože se to občas při čtení trefí do toho samého. Nemůže to být ten samý problém (s windows paging file), který se objevuje s linux swapem na raidu 1, tj. http://bugs.debian.org/cgi-bin/bugreport.cgi?bug=405919 (i když tady moc nerozumím o co konkrétně se jedná)?
    4.5.2013 14:23 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Tak je to skutečně v tom místě, kde je windows stránkovací soubor.
    mount -t ntfs-3g /dev/mapper/data-windows_server2 /W
    while : ; do md5sum /W/pagefile.sys; done
    6b87c2367d9936168ba79d16ccc297f7  /W/pagefile.sys
    ba12e00950a0459389b1e97a44602047  /W/pagefile.sys
    6b87c2367d9936168ba79d16ccc297f7  /W/pagefile.sys
    ba12e00950a0459389b1e97a44602047  /W/pagefile.sys
    6b87c2367d9936168ba79d16ccc297f7  /W/pagefile.sys
    6b87c2367d9936168ba79d16ccc297f7  /W/pagefile.sys
    
    Teď je otázka - vadí to něčemu? Pokud je toto ten samý či podobný problém jako s linux swapem na raid 1, pak tento problém nemám jen já, ale všichni, kteří provozují takovou konfiguraci (raid 1, lvm, virtualizace s kvm) - mohl by mi to prosím někdo potvrdit?
    4.5.2013 14:27 libokajn
    Rozbalit Rozbalit vše Re: Nekonzistentní LVM snapshoty
    Mimochodem při hledání jsem narazil na toto: http://www-947.ibm.com/support/entry/portal/docdisplay?lndocid=MIGR-5092480 Takže to asi není jen problém s linux raidem.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.