abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
včera 23:55 | Komunita

LTS (Long Term Support) podpora Ubuntu 12.04 LTS (Precise Pangolin) skončila po 5 letech od jeho vydání, tj. v dubnu 2017. V březnu 2017 ale Canonical představil placenou ESM (Extended Security Maintenance) podporu, díky které je Ubuntu 12.04 podporováno do dubna 2020. Dnes Canonical potvrdil ESM podporu také pro Ubuntu 14.04 LTS (Trusty Tahr), jehož LTS podpora skončí v dubnu 2019.

Ladislav Hagara | Komentářů: 0
včera 15:00 | Nová verze

Byla vydána verze 3.0.0 frameworku pro vývoj multiplatformních desktopových aplikací pomocí HTML, CSS a JavaScriptu Electron (YouTube, GitHub). Electron byl původně vyvíjen pro editor Atom pod názvem Atom Shell. Dnes je na Electronu postavena celá řada dalších aplikací.

Ladislav Hagara | Komentářů: 0
včera 14:44 | Nová verze

Po půl roce vývoje od vydání verze 6.0.0 byla vydána verze 7.0.0 překladačové infrastruktury LLVM (Wikipedie). Přehled novinek v poznámkách k vydání: LLVM, Clang, clang-tools-extra a LLD.

Ladislav Hagara | Komentářů: 0
včera 13:44 | Nová verze

Byla vydána verze 3.0.0 knihovny pro vykreslování grafů v programovacím jazyce Python Matplotlib (Wikipedie, GitHub). Přehled novinek a galerie grafů na stránkách projektu. Zrušena byla podpora Pythonu 2.

Ladislav Hagara | Komentářů: 0
včera 00:22 | Komunita

V Norimberku probíhá do pátku ownCloud conference 2018, tj. konference vývojářů a uživatelů open source systému ownCloud (Wikipedie) umožňujícího provoz vlastního cloudového úložiště. Přednášky lze sledovat online. Videozáznamy jsou k dispozici na YouTube. Při této příležitosti byl vydán ownCloud Server 10.0.10. Z novinek lze zdůraznit podporu PHP 7.2. Vydán byl také ownCloud Desktop Client 2.5.0. Vyzkoušet lze online demo ownCloudu.

Ladislav Hagara | Komentářů: 1
včera 00:11 | Pozvánky

Zářijový pražský sraz spolku OpenAlt se koná již tento čtvrtek – 20. 9. 2018 od 18:00 v Radegastovně Perón (Stroupežnického 20, Praha 5). Tentokrát bez oficiální přednášky, ale zato s dobrým jídlem a pivem – volná diskuse na téma IoT, CNC, svobodný software, hardware a další hračky.

xkucf03 | Komentářů: 0
18.9. 16:11 | Komunita

Vývojáři relačního databázového systému PostgreSQL oznámili, že schválili svůj Code of Conduct (CoC) aneb kodex chování vývojářů PostgreSQL.

Ladislav Hagara | Komentářů: 20
18.9. 14:44 | Nová verze

Byla vydána verze 1.0 poštovního serveru Courier (Wikipedie). Aktualizovány byly také související balíčky jako Courier authentication library, Courier-IMAP, SqWebMail, maildrop nebo Cone.

Ladislav Hagara | Komentářů: 0
18.9. 02:22 | Zajímavý software

Společnost ​Versity Software otevřela svůj archivační souborový systém ScoutFS. Zdrojové kódy jsou k dispozici na GitHubu (kernel space, user space) pod licencí GPLv2.

Ladislav Hagara | Komentářů: 28
18.9. 00:44 | Nová verze

Byla vydána verze 4.2 programovacího jazyka Swift (Wikipedie). Zdrojové kódy jsou k dispozici na GitHubu. Ke stažení jsou oficiální binární balíčky pro Ubuntu 18.04, Ubuntu 16.04 a Ubuntu 14.04. Přehled novinek ve videozáznamu přednášky z WWDC 2018.

Ladislav Hagara | Komentářů: 6
Na optické médium (CD, DVD, BD aj.) jsem naposledy vypaloval(a) data před méně než
 (13%)
 (15%)
 (20%)
 (23%)
 (25%)
 (4%)
 (1%)
Celkem 370 hlasů
 Komentářů: 33, poslední 16.9. 11:55
Rozcestník

OpenAFS – zálohování do souborů

29. 5. 2012 | Michal Švamberg | Návody | 2602×

Dnes už není největším majetkem zařízení nebo programové vybavení, ale jsou to samotná data. Jejich nevratná ztráta může firmu položit. A když k tomu připočteme i klesající kvalitu zařízení, musíme dávat větší důraz právě na zálohování. AFS umožňuje několik cest jak zálohovat a lze je různě kombinovat dle potřeb. Mezi zajímavý způsob patří online záloha volumu, kterou lze okamžitě připojit. AFS má vlastní systém zálohování, ale můžete využít mechanismu dumpů, který lze snadno napojit k již existujícím řešením zálohování.

Pokud nemáte ještě žádný systém zálohování, měli byste o něm rozhodně uvažovat. V AFS už máte zálohovací systém vestavěný a hodí se pro systematické zálohování dat uložených na AFS. Zálohovat můžete na pásky nebo na souborový systém. AFS dumpy se použijí, když chcete integrovat zálohování AFS do  existujícího systému. AFS vám v takovém případě dodá pouze archiv a jeho správu si musíte zajistit sami. Backup volumy jsou jednorázová záležitost a doplňují systém o snadný přístup uživatele k „poslední“ záloze. Zálohovat na úrovni souborů, například programem tar, není vhodné, protože je nutné řešit přístup pro čtení dat, uložení oprávnění a nesmíme zapomenout na mount pointy, které se běžnému programu (i uživateli) tváří jako adresáře.

V tomto díle budeme hlavně zálohovat uživatelský volume. Pokud chcete vidět, že vám opravdu zálohuje, je vhodné tento volume trochu zaplnit. Když jsme jej ale zakládali, nenastavili jsme mu kvótu. Defaultní kvóta je 5000 KB, což dnes není nijak závratná hodnota. Jako administrátor (nezapomenout kinit a aklog) svému uživateli zvýšíme kvótu na 1 GB (zapsat jej musíme v KB):

~$ cd /afs/foo.bar/users/s/svamberg/

/afs/.foo.bar/users/s/svamberg$ fs listquota .
Volume Name                    Quota       Used %Used   Partition
user.svamberg                   5000         11    0%          6%  

/afs/foo.bar/users/s/svamberg$ fs setquota . -max 1000000

/afs/foo.bar/users/s/svamberg$ fs listquota .
Volume Name                    Quota       Used %Used   Partition
user.svamberg                1000000         11    0%          6%   

Abychom se nemuseli znova přehlašovat, obejdeme uživatele, jak jsme se to naučili v minulém díle:

/afs/foo.bar/users/s/svamberg$ fs setacl home system:administrators all

/afs/foo.bar/users/s/svamberg$ mkdir home/tmp

Do volumu uložíme nějaký obsah, cokoliv, co máme po ruce:

/afs/foo.bar/users/s/svamberg$ cp /boot/* home/tmp
cp: omitting directory `/boot/grub'
cp: omitting directory `/boot/lost+found'

Obsah

Dump volumu

link

Dump je jednoduchý způsob, jak si vyrobit zálohu. Zkrátka řeknete AFS, aby vám daný volume zabalil a uložil do jediného souboru. Výsledný soubor není komprimovaný. Je přitom jedno, jestli chcete zabalit RW, RO nebo BK (backup) volume.

Problém tohoto přístupu je, že umí sice provádět inkrementální dumpy, ale pouze na úrovni souborů. Pokud mu zadáte datum a čas, od kterého má udělat inkrementální zálohu, pak vos dump zahrne do zálohy pouze novější soubory (dle času modifikace) než je uvedené datum. Pokud se tedy ve velkém datovém souboru změnil jen jeden bit, bude ve výsledném dumpu zahrnut celý soubor. To nemusí být v některých případech nejvýhodnější.

K tomu musíte mít nějaký systém, který vám bude udržovat správu jednotlivých dumpů, zajistí vám návaznost mezi dumpem s plnou zálohou a inkrementálním dumpem. Většinou postačí několik jednoduchých skriptů, kterými mechanismus dumpů navážete na již existující zálohovací systém.

Vytvoření zálohy

link

Plnou zálohu volumu vytvoříme snadno:

/afs/foo.bar/users/s/svamberg$ mkdir /tmp/afsdump ; cd /tmp/afsdump

/tmp/afsdump$ vos dump -id user.svamberg -file user.svamberg.full
Dumped volume user.svamberg in file user.svamberg.full

Pro inkrementální zálohu musíme napřed zjistit čas, provést nějakou změnu ve volumu a vytvořit dump od daného času:

/tmp/afsdump$ date +"%m/%d/%y %H:%M"
04/12/11 23:19

/tmp/afsdump$ cp /etc/motd /afs/foo.bar/users/s/svamberg/home/tmp/

/tmp/afsdump$ vos dump -time "04/12/11 23:19" -id user.svamberg -file user.svamberg.inc

V průběhu provádění zálohy je daný volume uzamčen a nelze do něj zapisovat, ani nad ním dělat jiné administrátorské úkony. V případě malých volumů to nevadí, ale u větších by to mohl být problém. Proto existuje přepínač -clone, který napřed vytvoří klon zálohovaného volumu a tento klon se následně zazálohuje. Tato volba úplně nevyloučí uzamčení volumu, ale významně potřebný čas pro zamknutí zkrátí. Vyzkoušíme to tentokrát na RO volumu:

/tmp/afsdump$ vos dump -id root.afs -file root.afs.full -clone
Dumped volume root.afs in file root.afs.full

Pokud chcete vidět rozdíl při vytváření zálohy s klonem a bez něj, použijte přepínač -verbose, který je dostupný téměř u všech AFS příkazů.

Některé zálohovací systémy mohou vyžadovat alokaci místa pro výsledný dump, například pro zjištění, zda na cílovém médiu je dostatek místa. Musíte tedy nějak zjistit velikost zálohy ještě před zálohováním. To lze snadno zjistit příkazem:

/tmp/afsdump$ vos size -id user.svamberg -dump
Volume: user.svamberg
dump_size: 8427706

Pro zjištění velikosti inkrementální zálohy stačí přidat parametr -time jako u vos dump.

K vytvořeným zálohám by uživatelé neměli mít přístup, protože tyto dumpy lze obnovit na lokální souborový systém, kde by neplatila ACL z AFS a tak by se mohli snadno dostat k datům, k nimž nemají mít právo přístupu.

Obnova na lokální systém

link

Toto obnovení má několik omezení z povahy rozdílů AFS a lokálních souborových systémů. Především nelze obnovit přístupová práva, ani mount pointy. Dále mohou soubory či adresáře přejmenovány, pokud se nenajde jejich umístění, to se může stát při nesprávném pořadí inkrementů. Detaily o omezeních tohoto "nouzového" způsobu obnovy jsou v manuálové stránce programu restorevol.

/tmp/afsdump$ restorevol -file user.svamberg.full 
Restoring volume dump of 'user.svamberg' to directory './user.svamberg'.

/tmp/afsdump$ ls user.svamberg/home/tmp/
System.map-2.6.36-trunk-amd64  initrd.img-2.6.36-trunk-amd64
config-2.6.36-trunk-amd64      vmlinuz-2.6.36-trunk-amd64

Přidaný soubor motd samozřejmě chybí, měl by ale být v inkrementální záloze:

/tmp/afsdump$ restorevol -file user.svamberg.inc  
Restoring volume dump of 'user.svamberg' to directory './user.svamberg'.
An incremental dump.

/tmp/afsdump$ ls user.svamberg/home/tmp/
System.map-2.6.36-trunk-amd64  motd
config-2.6.36-trunk-amd64      vmlinuz-2.6.36-trunk-amd64
initrd.img-2.6.36-trunk-amd64

Pokud si rozbalíte inkrementální zálohu samostatně zjistíte, že se v ní nachází celá adresářová struktura volumu a přidaný soubor motd:

/tmp/afsdump$ restorevol -file user.svamberg.inc -extension .test
Restoring volume dump of 'user.svamberg' to directory './user.svamberg.test'.
An incremental dump.

/tmp/afsdump$ find user.svamberg.test
user.svamberg.test
user.svamberg.test/public
user.svamberg.test/public/project
user.svamberg.test/home
user.svamberg.test/home/tmp
user.svamberg.test/home/tmp/motd
user.svamberg.test/mail

Pokud nevíte co se v daném dump souboru nachází, použijte utilitku file:

/tmp/afsdump$ file user.svamberg.inc 
user.svamberg.inc: AFS Dump (v1) Vol 536870921, user.svamberg on: Tue Apr 12 20:50:44 2011 incremental since: Tue Apr 12 23:19:00 2011

Obnova do AFS

link

Dump je samozřejmě vhodnější obnovit do AFS stromu, aby nám zůstaly zachovány všechny informace. Nejlepší volbou je rozbalení požadované zálohy jako nový volume, protože tak nepoškodíme to, co uživatelovi ještě zůstalo v jeho volumu. On by měl nejkvalifikovaněji rozhodnout, zda data ze zálohy jsou použitelná, nebo se spokojí s tím, co už si v domovském adresáři napáchal. To se samozřejmě netýká případů, kdy obnovujeme data po hardwarových problémech.

Dohodneme se, že uživatelské volumy budeme obnovovat ze záloh s prefixem tmp.. Tak poznáme, k jakému volumu se vztahuje a zároveň se nám v budoucnu nebude plést mezi regulérní volumy. Pro obnovu musíme uvést, na jakém serveru a partition se má nový volume vytvořit.

/tmp/afsdump$ vos restore -server afsfs.foo.bar -partition a -name tmp.user.svamberg -file user.svamberg.full 
Restoring volume tmp.user.svamberg Id 536870942 on server afssrv.foo.bar partition /vicepa .. done
Restored volume tmp.user.svamberg on afsfs.foo.bar /vicepa

/tmp/afsdump$ vos examine tmp.user.svamberg
tmp.user.svamberg                 536870942 RW       8231 K  On-line
    afssrv.foo.bar /vicepa 
    RWrite  536870942 ROnly          0 Backup          0 
    MaxQuota    1000000 K 
    Creation    Wed Apr 13 00:26:29 2011
    Copy        Wed Apr 13 00:26:29 2011
    Backup      Tue Apr 12 20:50:44 2011
    Last Access Tue Apr 12 22:43:46 2011
    Last Update Tue Apr 12 22:39:20 2011
    0 accesses in the past day (i.e., vnode references)

    RWrite: 536870942 
    number of sites -> 1
       server afssrv.foo.bar partition /vicepa RW Site 

Nově vzniklý volume můžeme uživateli připojit do jeho domovského adresáře:

/tmp/afsdump$ fs mkmount /afs/foo.bar/users/s/svamberg/restore tmp.user.svamberg

/tmp/afsdump$ ls /afs/foo.bar/users/s/svamberg/restore/home/tmp/
System.map-2.6.36-trunk-amd64  initrd.img-2.6.36-trunk-amd64
config-2.6.36-trunk-amd64      vmlinuz-2.6.36-trunk-amd64

V cestě je vidět celá struktura volumu, vyjma inkrementu, ten budeme aplikovat s parametrem -overwrite incremental:

/tmp/afsdump$ vos restore -server afsfs.foo.bar -partition a -name tmp.user.svamberg -file user.svamberg.inc -overwrite incremental
Restoring volume tmp.user.svamberg Id 536870942 on server afssrv.foo.bar partition /vicepa .. done
Restored volume tmp.user.svamberg on afsfs.foo.bar /vicepa

/tmp/afsdump$ ls /afs/foo.bar/users/s/svamberg/restore/home/tmp/
System.map-2.6.36-trunk-amd64  motd
config-2.6.36-trunk-amd64      vmlinuz-2.6.36-trunk-amd64
initrd.img-2.6.36-trunk-amd64

A teď záleží na tom, jak jsou vaši uživatelé spolehliví a nezačnou tento nový RW volume používat k odkládání. Takže důrazně informovat, aby daný volume nezneužíval. Je sice možnost snížit kvótu nebo odebrat právo pro zápis, ale to může vadit aplikacím, které uživatel může používat pro zpracování dat. Z výukových důvodů se podíváme, jak vypadá přetečená kvóta:

/tmp/afsdump$ fs setquota /afs/foo.bar/users/s/svamberg/restore/ 5000

/tmp/afsdump$ fs listquota /afs/foo.bar/users/s/svamberg/restore/ 
Volume Name                    Quota       Used %Used   Partition
tmp.user.svamberg               5000       8232  165%<<        6%    <<WARNING

Nepoužívejte velikost kvóty 0 (nula), protože to znamená neomezenou kvótu.

OpenAFS podporuje tzv. negativní práva, tedy že někomu něco odpírá. Toho lze právě využít k odepření zápisu, aniž bychom museli nějak upravovat normální práva. Používat negativní oprávnění se však pro běžné případy nedoporučuje.

/tmp/afsdump$ cd /afs/foo.bar/users/s/svamberg/restore

/afs/foo.bar/users/s/svamberg/restore$ find . -noleaf -type d -exec fs setacl -dir {} -acl svamberg w -negative \;

/afs/foo.bar/users/s/svamberg/restore$ fs listacl home
Access list for home is
Normal rights:
  system:administrators rlidwka
  svamberg rlidwka
Negative rights:
  svamberg iw

Nastavíme zpátky kvótu, protože jinak by nás odepřela ještě před testem práv. Pak se můžeme přihlásit jako uživatel a zkusit zapsat do souboru:

/afs/foo.bar/users/s/svamberg/restore$ fs sq . 1000000

/afs/foo.bar/users/s/svamberg/restore$ kinit svamberg
Password for svamberg@FOO.BAR:

/afs/foo.bar/users/s/svamberg/restore$ aklog

/afs/foo.bar/users/s/svamberg/restore$ echo "xxx" >> home/tmp/motd 
bash: home/tmp/motd: Permission denied

Protože jsme neudělali negaci oprávnění pro mazání 'd', tak soubory odstraňovat můžeme:

/afs/foo.bar/users/s/svamberg/restore$ rm -f home/tmp/motd

Stejně nejlepší strategií je pohrůžka, že zítra ta záloha už připojená nebude. Je to bez práce a naprosto funkční řešení. My si ale volume ponecháme ještě na nějaké hraní do příštího dílu.

Nezáleží na tom, z jakého typu volumu (RW, RO, BK) byl dump vytvořen, vždy se bude obnovovat do RW volumu.

Závěr

link

Zálohování do souborů je relativně jednoduchý způsob, ke kterému vám stačí oprávnění administrátora a nemusíte v AFS nic konfigurovat. Oproti tomu, musíte navázat externí zálohovací mechanismy minimálně na příkaz vos dump a je vhodné zajistit kompresi výsledného souboru.

Občas mohou nastat situace, že se vám bude hodit vytvořit jen jednorázový dump, například před operací s volumem, kde si nejste jisti výsledkem. V přístím díle budeme v zálohování pokračovat, tentokrát budeme vytvářet BK volumy a postaráme se, aby zálohování probíhalo automaticky.

Poděkování

link

Díly o zálohování mi zkontroloval a připomínkoval Olda Balák, velmi děkuji.

Centrum informatizace a výpočetní techniky pro Západočeskou univerzitu v Plzni buduje a provozuje od roku 1996 prostředí Orion založené na  autentizačním systému Kerberos a distribuovaném síťovém souborovém systému AFS s více než 22 tisíci aktivních uživatelů.
       

Hodnocení: 100 %

        špatnédobré        

Nástroje: Tisk bez diskuse

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

Komentáře

Vložit další komentář

29.5.2012 09:21 Petr Ježek | skóre: 10
Rozbalit Rozbalit vše Re: OpenAFS – zálohování do souborů
Síťové FS mi přijdou jako půlkrok žádoucím směrem. Pokud disponuji dostatečnou úložnou kapacitou (a to je to, co by si měl každý předem sám se sebou probrat), pak preferuji vlastnosti nabízené ZFS či btrfs. Na ad-hoc kritické zálohy bych nikdy data po síti neposílal. Mít datastore hezky po ruce je hodně tvrdá deviza často hradící i zvýšené náklady... Jinak data bez oprávnění toulající se kdesi v netéteru mne vůbec neuspokojuje. Já vím, ono to chodí, ale...
Archlinux for your comps, faster running guaranted!
29.5.2012 14:19 odik
Rozbalit Rozbalit vše Re: OpenAFS – zálohování do souborů
co to je za nesmyslny komentar.

clanek se zabyva zalohovanim na distribuovanem FS, ktery se primarne pouziva pro podporu mnoha uzivatelu a tvorbu vypocetniho prostredi urceneho pro skupiny uzivatelu a ne jednotlivce. takovy DFS je pak take potreba nejak zalohovat a o tom clanek je. Neni o tom ze si ma clovek udelat doma AFS bunku, aby si na to nahraval domaci filmy ...
29.5.2012 10:24 PJ
Rozbalit Rozbalit vše Re: OpenAFS – zálohování do souborů
" ... online zaloha volumu ... " je mazec :D
houska avatar 29.5.2012 13:04 houska | skóre: 41 | blog: HW
Rozbalit Rozbalit vše Re: OpenAFS – zálohování do souborů
a pritom by melo spravne byt "online backup volumu" :)

Založit nové vláknoNahoru

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.