abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 11:00 | Zajímavý software
Na Good Old Games je v rámci aktuálních zimních slev zdarma k dispozici remasterovaná verze klasické point&click adventury Grim Fandango, a to bez DRM a pro mainstreamové OS včetně GNU/Linuxu. Akce trvá do 14. prosince, 15:00 SEČ.
Fluttershy, yay! | Komentářů: 6
včera 07:22 | Pozvánky

Konference InstallFest 2018 proběhne o víkendu 3. a 4. března 2018 v Praze na Karlově náměstí 13. Spuštěno bylo CFP. Přihlásit přednášku nebo workshop lze do 18. ledna 2018.

Ladislav Hagara | Komentářů: 0
12.12. 20:22 | Nová verze

Před měsícem byla vydána Fedora 27 ve dvou edicích: Workstation pro desktopové a Atomic pro cloudové nasazení. Fedora Server byl "vzhledem k náročnosti přechodu na modularitu" vydán pouze v betaverzi. Finální verze byla naplánována na leden 2018. Plán byl zrušen. Fedora 27 Server byl vydán již dnes. Jedná se ale o "klasický" server. Modularita se odkládá.

Ladislav Hagara | Komentářů: 6
12.12. 10:22 | Zajímavý článek

Lukáš Růžička v článku Kuchařka naší Růži aneb vaříme rychlou polévku z Beameru na MojeFedora.cz ukazuje "jak si rychle vytvořit prezentaci v LaTeXu, aniž bychom se přitom pouštěli do jeho bezedných hlubin".

Ladislav Hagara | Komentářů: 13
12.12. 07:22 | Komunita

Od 26. do 29. října proběhla v Bochumi European Coreboot Conference 2017 (ECC'17). Na programu této konference vývojářů a uživatelů corebootu, tj. svobodné náhrady proprietárních BIOSů, byla řada zajímavých přednášek. Jejich videozáznamy jsou postupně uvolňovány na YouTube.

Ladislav Hagara | Komentářů: 0
11.12. 19:22 | Nová verze

Ondřej Filip, výkonný ředitel sdružení CZ.NIC, oznámil vydání verze 2.0.0 open source routovacího démona BIRD (Wikipedie). Přehled novinek v diskusním listu a v aktualizované dokumentaci.

Ladislav Hagara | Komentářů: 0
11.12. 09:22 | Pozvánky

V Praze dnes probíhá Konference e-infrastruktury CESNET. Na programu je řada zajímavých přednášek. Sledovat je lze i online na stránce konference.

Ladislav Hagara | Komentářů: 2
9.12. 20:11 | Nová verze

Byl vydán Debian 9.3, tj. třetí opravná verze Debianu 9 s kódovým názvem Stretch a Debian 8.10, tj. desátá opravná verze Debianu 8 s kódovým názvem Jessie. Řešeny jsou především bezpečnostní problémy, ale také několik vážných chyb. Instalační média Debianu 9 a Debianu 8 lze samozřejmě nadále k instalaci používat. Po instalaci stačí systém aktualizovat.

Ladislav Hagara | Komentářů: 14
9.12. 00:44 | Nová verze

Po 6 měsících vývoje od vydání verze 0.13.0 byla vydána verze 0.14.0 správce balíčků GNU Guix a na něm postavené systémové distribuce GuixSD (Guix System Distribution). Na vývoji se podílelo 88 vývojářů. Přibylo 1 211 nových balíčků. Jejich aktuální počet je 6 668. Aktualizována byla také dokumentace.

Ladislav Hagara | Komentářů: 4
8.12. 21:33 | Nová verze

Po půl roce vývoje od vydání verze 5.9 byla vydána nová stabilní verze 5.10 toolkitu Qt. Přehled novinek na wiki stránce. Současně byla vydána nová verze 4.5.0 integrovaného vývojového prostředí (IDE) Qt Creator nebo verze 1.10 nástroje pro překlad a sestavení programů ze zdrojových kódů Qbs.

Ladislav Hagara | Komentářů: 0
Jak se vás potenciálně dotkne trend odstraňování analogového audio konektoru typu 3,5mm jack z „chytrých telefonů“?
 (8%)
 (1%)
 (1%)
 (1%)
 (75%)
 (14%)
Celkem 982 hlasů
 Komentářů: 45, poslední 1.12. 19:00
    Rozcestník

    Dotaz: vhodný FS pro hodně paralelních zápisů

    24.11.2015 15:51 pletiplot | skóre: 14
    vhodný FS pro hodně paralelních zápisů
    Přečteno: 641×
    Hello, chystám se vytvářet server, na který bude velké množství zařízení (až desítky tisíc) sypat logy ze syslogů přes udp. Jeden log má denně jednotky MB. Chceme je ukládat na disk jako soubory v nějaké adresářové struktuře. Jaký vhodný filesystem byste mi doporučilili? Případně jaký md pod ním?

    Nějaké kandidáty mám, ale chci slyšet i další názory.

    Marek

    Odpovědi

    24.11.2015 16:08 Zdenek 'Mst. Spider' Sedlak | skóre: 37 | blog: xMstSpider
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    XFS, ale spis nez do souboru bych radil ukladat do DB, napr. Rsyslog + Cassandra je dobra kombinace...
    24.11.2015 16:14 pletiplot | skóre: 14
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    To zvažuju taky, ale pro zpracování těch souborů už mám nějaké nástroje, které bych musel zas přepsat. Takže spíš hudba budoucnosti.
    Josef Kufner avatar 24.11.2015 21:14 Josef Kufner | skóre: 67
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Zvaž, jak moc pracné by to bylo z pohledu dalšího rozvoje těch nástrojů a tvorby dalších. A také z pohledu údržby, replikace, konfigurace a podobně.

    Těm existujícím nástrojům můžeš předřadit jednoduchý skript s dotazem, který data vypíše v očekávaném tvaru a očekávaném rozsahu (např. dle času).
    Hello world ! Segmentation fault (core dumped)
    27.11.2015 19:26 Jindřich Makovička | skóre: 13
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Přimlouvám se za DB (asi Mongo nebo Scylla). Pokud se ty všechny soubory mají fsyncovat, tak 50k klientů a dejme tomu 20ms na fsync umožňuje pro jednotlivé logy jeden sync na disk každých 1000s. Systém ty zápisy pravděpodobně nějak zagreguje, ale stejně bych šel do db (a textové logy případně vyrobil dodatečně).
    24.11.2015 16:21 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Pokud je to server primárně na logy tak bych spíš preferovat to postavit na BSD a ZFS filesystem.
    24.11.2015 16:35 pletiplot | skóre: 14
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Na BSD tu máme jednoho člověka a ten je příliš "drahý" na to, aby se staral o tenhle server.
    24.11.2015 16:51 pletiplot | skóre: 14
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Ten ZFS, koukám, že je zaměřen hlavně na integritu, samé kontrolní součty při každém zápisu, je to opravdu tak výkonné při zápisu?
    24.11.2015 17:34 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    No pro mne jsou logy kriticky důležitém, protože bez nich jsou závažné problémy. Jestli je to cca MB na stanici tak to je cca 3 000 zápisů na den a stanici a cca 10 000 stanic tak to je cca 30 000 000 operací za 86 000 sekund což je cca 500 operací za sekundu. To se dá udržet jedině velkými cache, aby v jednou zápisu se zapsalo více elementárních operací.
    24.11.2015 19:09 j
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Hlavne na to potrebujes slusne nadimenzovany diskovy HW ... na FS zas az tak nezalezi. Rozdily budou pomerne marginalni.
    Josef Kufner avatar 24.11.2015 21:24 Josef Kufner | skóre: 67
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    1 MB za den a stanici pro 10 000 stanic je docela malý objem dat, nějakých 10 GB za den. Na to bych doporučil tmpfs a logy rotovat na persistentní úložiště třeba každou hodinu (to se do 1 GB paměti vejde v pohodě). A nebo opravdu raději databázi, která to udrží konzistentní a bude mít obdobný objem paměti pro cache.

    Pokud se IO operace z jednotlivých zařízení pošlou do paměti namísto na disk, tak to i celkem líný server v pohodě zvládne a větší blok dat už zapíše efektivně najednou.
    Hello world ! Segmentation fault (core dumped)
    24.11.2015 23:16 R
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Presne tak, nie je to vela dat. Ked sa nebudu logy synchronne zapisovat na disk po kazdom prijatom pakete, tak by nemal byt problem s vykonom.

    Nevymyslal by som ziadny tmpfs ani databazu - nainstaloval Debian (defaultne ext4), nakonfiguroval normalne rsyslog (bez syncu) a urobil nejaky benchmark. Linux predsa vie vyuzit pamat ako cache aj bez tmpfs a databazy. Az keby sa ukazal nejaky problem s vykonom, tak by som vymyslal zlozitejsie riesenia.
    24.11.2015 23:51 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    To beru, ale stejně tak pokud bude mít řekněme 32GB paměti a v podstatě všechno na cache, (a ZFS zase si cachuje celkem hodně) tak se diskové operace mohou hezky zgrupovat a disk to nezatíží. (nesmí tam mít sync po každém zápise.)
    Josef Kufner avatar 25.11.2015 16:22 Josef Kufner | skóre: 67
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Není ani potřeba kdoví kolik GB. Při tomhle objemu stačí půl GB a rotovat jednou za hodinku nebo častěji.

    Potíž je v tom, že při zavírání souboru se čeká, až soubor bude opravdu na disku. Tomu je potřeba se vyhnout, jinak by se cache neměla šanci využít.
    Hello world ! Segmentation fault (core dumped)
    24.11.2015 21:41 Andrej | skóre: 44 | blog: Republic of Mordor | Zürich
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů

    Proč na BSD? ZFS může být i na Linuxu.

    ǑǦŹǓǕǙǞǺǨȞȬḔḦḰḾṊṎṸẄẌỖ
    24.11.2015 23:57 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Já ti nevím, se ZFS na linuxu nemám zkušenosti, ale je to ve FUSE a třeba NTFS, které také je ve FUSE je celkem pomalé vůči nativnímu FS, který jede v kernelu. Nevidím tu v tom linuxu žádnou výhodu, protože stejně když to vezmu přímočaře, tak na úlohu potřebuješ jenom jádro, filesystem, syslog a síťový subsystém. To máš jak v BSD tak v linuxu.
    25.11.2015 09:06 Andrej | skóre: 44 | blog: Republic of Mordor | Zürich
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů

    To je 5 let starý FUD. ZFS v kernelu Linux je k dispozici už hooodně dlouho. Jen se distribuuje zvlášť kvůli GPL versus CDDL.

    ǑǦŹǓǕǙǞǺǨȞȬḔḦḰḾṊṎṸẄẌỖ
    24.11.2015 21:43 Andrej | skóre: 44 | blog: Republic of Mordor | Zürich
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů

    Btrfs. A žádný md pod ním, protože md patří do minulého desetiletí.

    ǑǦŹǓǕǙǞǺǨȞȬḔḦḰḾṊṎṸẄẌỖ
    24.11.2015 21:53 Aleš Kapica | skóre: 46 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    To je pěkná hovadina. Zrovna na tohle se Btrfs moc nehodí.
    24.11.2015 23:55 j
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Naopak se na to hodi pomerne dost, nativne to trebas umi delat snapy, takze se to da velmi snadno a efektivne zalohovat. Klidne muzes zivy data ladovat na ssd, a intervalove to v podobe snapu posilat na disky.

    Otazka je, co si od toho provozovatel slibuje.
    25.11.2015 09:07 Andrej | skóre: 44 | blog: Republic of Mordor | Zürich
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    FUD.
    ǑǦŹǓǕǙǞǺǨȞȬḔḦḰḾṊṎṸẄẌỖ
    25.11.2015 09:18 Aleš Kapica | skóre: 46 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Vážený, používám Btrfs dost dlouho na to, abych věděl co píšu. Logy jsou obvykle soubory do kterých se trvale zapisuje, což by v tomto případě znamenalo, že by Btrfs neustále převalovalo hromady malých souborů. To není dobré ani z hlediska výkonu, ani z toho hlediska, že u logu je zájem zprávu do souboru a pokud možno u na blokové zařízení zapsat co nejdřív a ne čekat, až se souborový systém vykecá.

    Pokud máte ověřeno že to není pravda, tak to laskavě dokažte.
    25.11.2015 14:32 Andrej | skóre: 44 | blog: Republic of Mordor | Zürich
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů

    Zamyslel jste se aspoň na chvíli, jak bezobsažný blábol tady žvaníte? Žvaníte a neříkáte přitom absolutně nic. Kde máte fakta, data, výsledky benchmarků? Nenechte se mýlit, „důkazní břemeno“ je na vaší straně, nikoliv na mé straně. Vy jste tady začal trousit nesmyslný a ničím nepodložený FUD o Btrfs. Pak máte tedy dvě možnosti: Buď své nesmysly věrohodně doložíte přesným a technicky relevantním vysvětlením, proč by Btrfs nebyl ideálním řešením — což nejde, že ano, protože jsou to zkrátka nesmysly —, nebo budete dále sám sebe zesměšňovat vymýšlením dalšího FUDu o tom, jak se filesystém „vykecá“. Velmi vtipné, vskutku. Btrfs používán na všech svých systémech od roku 2010, tedy opravdu velmi dlouho, a nesetkal jsem se dosud s nasazením, na které by se nehodil. Po technické stránce je Btrfs v drtivé většině případů nejlepší dostupnou volbou a jeho jediným problémem jsou žvanilové šířící ničím nepodložený FUD. Otázka je, komu tím prospějete. :-D To je asi tak první hláška, která mě v tomto kontextu napadá.

    ǑǦŹǓǕǙǞǺǨȞȬḔḦḰḾṊṎṸẄẌỖ
    25.11.2015 14:46 Aleš Kapica | skóre: 46 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Řekl bych, že váš blábol je mnohem bezobsažnější. Používám Btrfs neméně dlouho jako vy, a na rozdíl od vás jsem vyzkoušel opravdu všechny možné i nemožné kombinace souborových systémů a blokových zařízení pod nimi. Sám mám systém na notebooku v Btrfs raid 1 - přesto bych na stroj, určený k ukládání mnoha logů Btrfs nedoporučil. A také jsem napsal proč. Ovšem vy jste se zatím zcela křupansky spokojil s tím, že se ze mne v této diskuzi snažíte dělat blbce aniž byste své demagogické zvolání podložil čímkoliv jiným, než prohlášení, že Btrfs používáte dlouho. Přitom jste nenapsal ani zbla o tom na já data a na kolika strojích ho používáte. Pokud jde o mne, tak k tomu stačí prohledat obsah tohoto webu.
    25.11.2015 11:58 cronin | skóre: 49
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Ak sa skutočne jedná o tak kritickú vec, nemal by byť problém simulovať záťaž a spustiť benchmark na rôznych FS. Obávam sa však, že výsledky nebudú také, si prajete. Rozdiely spôsobené FS budú pravdepodobne malé a nijaký jasný víťaz nebude. Aspoň nie o toľko, aby to spôsobilo rozdiel v uskutočniteľnosti zámeru či neskoršej škálovateľnosti riešenia. Kľúčom k horizontálnej škálovateľnosti je osvedčený prístup "rozdeľ a panuj" - viete nechať rozličné skupiny staníc logovať na iné partície či dokonca servery? Bude úzkym miestom skutočne súborový systém a diskové operácie, alebo veľký počet sieťových prenosov cez možno už i tak vyťaženú sieť? Považujem za dobré, že ste sa zamysleli nad výberom vhodného FS pre konkrétne nasadenie, upozorňujem iba, že pokiaľ nemáte testami podložené, že FS je kritickým miestom pre výkonnosť, je táto otázka marginálna.

    25.11.2015 16:27 pletiplot | skóre: 14
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Pokusím se odpovědět všem. Není to zas tak kritické, logy s čtou, jen když jsou hlášené nějaké problémy na těch konkrétních stanicích. Takže dělat 2 měsíce nějaké benchmarky by celou akci prodražilo, takže prostě uděláme rešerši (jejíž součástí je tenhle dotaz), vybereme, co je teoreticky nejvhodnější, a pokud to nebude stačit, tak to nějak překopeme. Takže jsme vybrali md raid 10 ze šesti disků a xfs, rsyslogd s co nejvíc late sync nastavením.

    Děkuji všem za rady, ještě dám vědět, jak to dopadlo.
    25.11.2015 17:43 Juraj
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Oplati sa aj nastudovat sysctl parametre ako dirty_* a sledovat vyuzitie pamati.

    Volat sync v co najdlhsich intervaloch moze byt kontraproduktivne lebo to znamena ze aj dlhsie potrva (a ked dlho caka, prestane prijimat pakety).
    26.11.2015 06:11 Peter Golis | skóre: 55 | Bratislava
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Odporučím to dať vypracovať odborníkom. Ak sú tie logy kritické, tak je potrebný synchronný zápis na disk. Ten bude pri paralelizácii vyžadovať vysoké I/O. Sranda bude pri nejakom nevhodnom zbastlenom riešení keď sa začnú chŕliť logy desať alebo sto násobne rýchlejšie (napr boti na ssh).

    A ak sú tie logy nepodstatné a vyhodnocujú sa len keď fyzicky ľahne jeden zo strojov, tak to je ozaj lepšie riešiť cez DB a nehať stroj na UPS. Kým sa bude treba nabudúce povenovať forenznej analýze tabuľkovými metódami, tak ten selekt do súboru slúžiacemu ako vstup skriptom bude dávno hotový.

    PS: čo si pamätám, tak napr syslog-ng mal komerčnú podporu. Nechceš ich sponznúť?
    Max avatar 26.11.2015 07:14 Max | skóre: 65 | blog: Max_Devaine
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Vysoké IO si pohlídá cache na řadiči, pokud používají, a to rapidně. Jinak osobně bych z toho nedělal takového velblouda, vesměs to je malé řešení.
    MD + XFS je dobrá volba.
    Zdar Max
    Měl jsem sen ... :(
    26.11.2015 07:33 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: vhodný FS pro hodně paralelních zápisů
    Souhlasím s Maxem přede mnou. Není problém mít současně otevřených 10k souborů v syslogu a paralelně do nich psát. Rozumě velké cache zátěž pochytají. UPS je asi samozřejmé, v cache bude mnoho dat.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.