abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
eParkomat, startup z ČR, postoupil mezi finalisty evropského akcelerátoru ChallengeUp!
Robot na pivo mu otevřel dveře k opravdovému byznysu
Internet věcí: Propojený svět? Už se to blíží...
dnes 06:00 | Zajímavý software

OMG! Ubuntu! představuje emulátor terminálu Hyper (GitHub) postavený na webových technologiích (HTML, CSS a JavaScript). V diskusi k článku je zmíněn podobný emulátor terminálu Black Screen. Hyper i Black Screen používají framework Electron, stejně jako editor Atom nebo vývojové prostředí Visual Studio Code.

Ladislav Hagara | Komentářů: 23
dnes 06:00 | Zajímavý článek

I letos vychází řada ajťáckých adventních kalendářů. QEMU Advent Calendar 2016 přináší každý den nový obraz disku pro QEMU. Programátoři se mohou potrápit při řešení úloh z kalendáře Advent of Code 2016. Kalendáře Perl Advent Calendar 2016 a Perl 6 Advent Calendar přinášejí každý den zajímavé informace o programovacím jazyce Perl. Stranou nezůstává ani programovací jazyk Go.

Ladislav Hagara | Komentářů: 4
3.12. 16:24 | Nová verze

Byla vydána Mageia 5.1. Jedná se o první opravné vydání verze 5, jež vyšla v červnu loňského roku (zprávička). Uživatelům verze 5 nepřináší opravné vydání nic nového, samozřejmě pokud pravidelně aktualizují. Vydání obsahuje všechny aktualizace za posledního téměř půldruhého roku. Mageia 5.1 obsahuje LibreOffice 4.4.7, Linux 4.4.32, KDE4 4.14.5 nebo GNOME 3.14.3.

Ladislav Hagara | Komentářů: 14
3.12. 13:42 | Pozvánky

V Praze probíhá konference Internet a Technologie 16.2, volné pokračování jarní konference sdružení CZ.NIC. Konferenci lze sledovat online na YouTube. K dispozici je také archiv předchozích konferencí.

Ladislav Hagara | Komentářů: 0
2.12. 22:44 | Komunita

Joinup informuje, že Mnichov používá open source groupware Kolab. V srpnu byl dokončen dvouletý přechod na toto řešení. V provozu je asi 60 000 poštovních schránek. Nejenom Kolabu se věnoval Georg Greve ve své přednášce Open Source: the future for the European institutions (SlideShare) na konferenci DIGITEC 2016, jež proběhla v úterý 29. listopadu v Bruselu. Videozáznam přednášek z hlavního sálu je ke zhlédnutí na Livestreamu.

Ladislav Hagara | Komentářů: 25
2.12. 15:30 | Zajímavý projekt

Společnost Jolla oznámila v příspěvku Case study: Sailfish Watch na svém blogu, že naportovala Sailfish OS na chytré hodinky. Využila a inspirovala se otevřeným operačním systémem pro chytré hodinky AsteroidOS. Použita je knihovna libhybris. Ukázka ovládání hodinek na YouTube.

Ladislav Hagara | Komentářů: 15
2.12. 14:15 | Nová verze

Byla vydána verze 7.1.0 skriptovacího jazyka PHP používaného zejména k vývoji dynamických webových stránek. Jedná se o první stabilní verzi nejnovější větvě 7.1. Přehled novinek v dokumentaci. Podrobnosti v ChangeLogu. K dispozici je také příručka pro přechod z PHP 7.0.x na PHP 7.1.x.

Ladislav Hagara | Komentářů: 4
2.12. 12:55 | Nová verze

Google Chrome 55 byl prohlášen za stabilní. Nejnovější stabilní verze 55.0.2883.75 tohoto webového prohlížeče přináší řadu oprav a vylepšení (YouTube). Opraveno bylo také 36 bezpečnostních chyb. Mariusz Mlynski si například vydělal 22 500 dolarů za 3 nahlášené chyby (Universal XSS in Blink).

Ladislav Hagara | Komentářů: 4
2.12. 11:55 | Pozvánky

Máte rádi svobodný software a hardware nebo se o nich chcete něco dozvědět? Přijďte na 135. sraz spolku OpenAlt, který se bude konat ve čtvrtek 8. prosince od 18:00 v Radegastovně Perón (Stroupežnického 20, Praha 5). Sraz bude tentokrát tématický. Bude retro! K vidění budou přístroje jako Psion 5mx nebo Palm Z22. Ze svobodného hardwaru pak Openmoko nebo čtečka WikiReader. Přijďte se i vy pochlubit svými legendami, nebo alespoň na pivo. Moderní hardware má vstup samozřejmě také povolen.

xkucf03 | Komentářů: 1
2.12. 00:10 | Nová verze

Byla vydána verze 3.2 svobodného systému pro detekci a prevenci průniků a monitorování bezpečnosti počítačových sítí Suricata. Z novinek lze zmínit například podporu protokolů DNP3 a CIP/ENIP, vylepšenou podporu TLS a samozřejmě také aktualizovanou dokumentaci.

Ladislav Hagara | Komentářů: 0
Kolik máte dat ve svém domovském adresáři na svém primárním osobním počítači?
 (32%)
 (24%)
 (29%)
 (7%)
 (5%)
 (3%)
Celkem 773 hlasů
 Komentářů: 50, poslední 29.11. 15:50
Rozcestník
Reklama

Dotaz: Operační systém a souborový systém pro vytížený backup server

29.1.2014 21:38 vasek
Operační systém a souborový systém pro vytížený backup server
Přečteno: 352×
Ahoj,

nějakou dobu už mi běží na backup serveru FreeBSD 9.1 se souborovým systémem ZFS (ostatně kvůli tomu tam mám také freebsd). Zálohuji na něj servery a většinou pomocí BackupPC - pro každý server 1x týdně full backup, 1x denně inkrementální. Serverů je celkem 13 a až na 2 výjimky to jsou linuxové servery. U nich je velikost full backup +-20 GB. 2 servery jsou Windows zálohované přes rsync skrze ssh tunel a u nich je velikost plné zálohy cca 600 GB pro každého. Všechny tyto servery se zálohují do nekomprimovaného zfs poolu. Kromě BackupPC také zálohuji 1x týdně virtuální stroje, resp. jejich disky manuálně pomocí vlastního skriptu (+-50GB * 6) - tady využívám zfs snapshoty a pomocí rsync posílám pouze rozdílová data (trvá to déle, ale ušetří to díky zfs veliké množství místa na disku anichž bych musel používat deduplikaci).

Teď k jádru problému: zálohovací stroj přestal stíhat zálohování. Má na toto dost slabý hardware a není dost finančních prostředků na nějakou jeho změnu. Je to taková skládačka - AMD Dual-Core Athlon X2 4450e (45W), 2300MHz, 5 GB RAM (nonECC - vím že je to risk na ZFS...), 4x SATA 2 TB disky. Jak nabobtnalo množství zálohovaných a i již zazálohovaných dat, tak prudce klesl výkon - pravděpodobně za to může ZFS v raidz1.

Mám několik oẗázek: Jak je na tom nyní btrfs s ohledem na spolehlivost a rychlost na linuxu oproti zfs na freebsd? Když jsem před rokem zkoušel asi měsíc btrfs, pokaždé se mi nakonec rozsypal. Nebo si myslíte, že na takové množství dat bude lepší klasika např. ext4 (tam bych ale zase přišel o snapshoty)? Šel bych určitě do linuxu, protože po roční zkušenosti s freebsd mi připadá, že linuxové jádro daleko lépe zvládá vysokou zátěž (asi lepší IO scheduler či co).

Odpovědi

30.1.2014 00:25 lertimir | skóre: 58 | blog: Par_slov
Rozbalit Rozbalit vše Re: Operační systém a souborový systém pro vytížený backup server
Myslím že hlavní problém je v BackupPC. Používám na domácím serveru zálohování všech domácích strojů, celkem 6 linuxových systému, HW stroje AMD E-350 Processor na 1600MHz 4GB paměti, zálohování na mdadm RAID 10 s ext4. Typický zálohovací objem 50G. Inkrementální zálohy 1,2,3,4,1,2,3,4,1,2,3,4 a pak uplná. Komprimovaný pool. A výsledek: Když běží BackupPC, je zátěž disků mezi 85%-100% zátěž procesorová také blízko 100% s tím že spoustu času je to ve wait stavu. Měřeno pomocí atop a také se to zobrazuje na grafech munin. Typický čas pro úplnou zálohu je 120Min a pro inkrementální 20-40min. Z každé stanice je to cca 200-400 000 souborů. Celkem má záloha kolem 1,2 mil souborů.

Nejdříve mě to připadalo strašně dlouhé. Ale když jsem se díval, co zálohování na cíli vyrobí, tak jsou to soubory nazvané svými hash hodnotami, rozdělené do 3 úrovní adresářů podle prvních 3 hexa znaků hashe. V jednotlivých zálohách konkrétních systémů jsou pak hardlinkované odkazy na tento hashový pool. A protože při jak inkrementální tak úplné záloze stejně musí sytém projít všechny soubory jestli je má zazálohované v aktuální verzi, tak jsem dospěl k názoru, že stejně to rychleji nepůjde, protože když u disku je tak cca 100 IOPS tak 200 000 souborů je odhadem 2000 sekund. Pro mne výhoda je, že jak mají všechny systémy stejné distro, tak soubor, který je stejný je hardlinkovaný ze záloh všech strojů (vyzkoušeno pomocí find /var/lib/BackupPC -samefile fvi) (konkrétně záloha vi má u mne 170 hardlinků). A čistě ten find běžel asi 35 minut, jak je ten strom velký. Takže si myslím, že změna file systému nepomůže. A
30.1.2014 01:32 cronin | skóre: 48
Rozbalit Rozbalit vše Re: Operační systém a souborový systém pro vytížený backup server
Nepíšeš, čo vlastne zálohuješ. "Záloha servera" je dosť široký pojem. Zálohovanie celých systémov hlava-nehlava je síce v prvom kole jednoduché, ale ako si sám zistil, veľmi rýchlo to prerastie únosné medze. Preto je možno lepšie robiť aplikačne špecifické zálohy: dumpy databáz, exporty VCS a pod. Veľkou úsporou je identifikovať to, čo zálohovať netreba, pretože sa to buď dá naištalovať (aplikácie), vygenerovať z iných zdrojov (dokumentácie), stiahnuť z internetu (artifactory), alebo to prinajhoršom možno oželieť (logovacie súbory), alebo to dokonca vôbec nie je potrebné (rôzne pomocné indexy a cache). Až na ten zvyšok treba použiť zálohovanie na úrovni súborového systému.

Hlavne netreba zabudnúť zálohy testovať a proces obnovenia pravidelne precvičovať. Mať zálohu, ktorá nejde použiť, je oveľa zúfalejší stav ako nemať žiadnu zálohu.
30.1.2014 10:56 vasek
Rozbalit Rozbalit vše Re: Operační systém a souborový systém pro vytížený backup server

Tím záloha serverů myslím opravdu všechno, co na těch strojích je. V podstatě těch systémových souborů moc není, jde o uživatelská data - typicky nejhorší asi bude několik gigabajtů mailů v malých souborech či rozsáhlé webové stránky a hlavně stovky tisíc malých souborů na windows serverech (jsou to fileservery).

Ono ten backup server se jeví podle monitorování jako nezatížený - nízké využití sítě, malé rychlosti zápisu na disky, procesor podle topu nevyužitý - nicméně v něčem mi freebsd asi kecá. Disky mají dost práce - přes dd naměřím rychlost zápisu kolem 2-5 MB/s, pořád běží dost procesů find programu BackupPC. Načtení web statistiky BackupPC trvá i přes 30 sekund. Podle mě to padlo na limity HW + ZFS filesystému (i bez zálohování výkonnost ZFS nic moc na tomto HW). Proto nevím jestli bych si třeba btrfs na linuxu nepolepšil ...

30.1.2014 13:12 lertimir | skóre: 58 | blog: Par_slov
Rozbalit Rozbalit vše Re: Operační systém a souborový systém pro vytížený backup server
Ano tak to je. Rychlost je mezi 1-8MB/s přestože záloha je na gigabitové síti a na dvou klientech zálohuje data z SSD disků. 8 je jen pro úplnou zálohu. inkrementální jsou mezi 1-3MB/s. Můj procesor je využitý jen díky tomu, že vše se kompresuje. Zkuste nainstalovat BSD implementaci atop a uvidíte, že limit je v discích. BSD nekecá, ale prostě disky víc atomárních zápisů a čtení malých souborů nedají. A vše ostatní nemá co dělat.

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.