abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 00:11 | Nová verze

    Open source modální textový editor Helix, inspirovaný editory Vim, Neovim či Kakoune, byl vydán ve verzi 25.07. Přehled novinek se záznamy terminálových sezení v asciinema v oznámení na webu. Detailně v CHANGELOGu na GitHubu.

    Ladislav Hagara | Komentářů: 0
    včera 20:44 | IT novinky

    Americký výrobce čipů Nvidia získal od vlády prezidenta Donalda Trumpa souhlas s prodejem svých pokročilých počítačových čipů používaných k vývoji umělé inteligence (AI) H20 do Číny. Prodej těchto čipů speciálně upravených pro čínský trh by tak mohl být brzy obnoven, uvedla firma na svém blogu. Americká vláda zakázala prodej v dubnu, v době eskalace obchodního sporu mezi oběma zeměmi. Tehdy to zdůvodnila obavami, že by čipy mohla využívat čínská armáda.

    Ladislav Hagara | Komentářů: 7
    včera 17:22 | Nová verze

    3D software Blender byl vydán ve verzi 4.5 s prodlouženou podporou. Podrobnosti v poznámkách k vydání. Videopředstavení na YouTube.

    Ladislav Hagara | Komentářů: 0
    14.7. 22:22 | Komunita

    Open source webový aplikační framework Django slaví 20. narozeniny.

    Ladislav Hagara | Komentářů: 0
    14.7. 16:11 | Komunita

    V Brestu dnes začala konference vývojářů a uživatelů linuxové distribuce Debian DebConf25. Na programu je řada zajímavých přednášek. Sledovat je lze online.

    Ladislav Hagara | Komentářů: 0
    14.7. 11:33 | IT novinky

    Před 30 lety, tj. 14. července 1995, se začala používat přípona .mp3 pro soubory s hudbou komprimovanou pomocí MPEG-2 Audio Layer 3.

    Ladislav Hagara | Komentářů: 28
    14.7. 10:55 | IT novinky

    Výroba 8bitových domácích počítačů Commodore 64 byla ukončena v dubnu 1994. Po více než 30 letech byl představen nový oficiální Commodore 64 Ultimate (YouTube). S deskou postavenou na FPGA. Ve 3 edicích v ceně od 299 dolarů a plánovaným dodáním v říjnu a listopadu letošního roku.

    Ladislav Hagara | Komentářů: 22
    13.7. 17:55 | Zajímavý projekt

    Společnost Hugging Face ve spolupráci se společností Pollen Robotics představila open source robota Reachy Mini (YouTube). Předobjednat lze lite verzi za 299 dolarů a wireless verzi s Raspberry Pi 5 za 449 dolarů.

    Ladislav Hagara | Komentářů: 17
    11.7. 16:44 | Komunita

    Dnes v 17:30 bude oficiálně vydána open source počítačová hra DOGWALK vytvořena v 3D softwaru Blender a herním enginu Godot. Release party proběhne na YouTube od 17:00.

    Ladislav Hagara | Komentářů: 3
    11.7. 14:55 | Humor

    McDonald's se spojil se společností Paradox a pracovníky nabírá také pomocí AI řešení s virtuální asistentkou Olivii běžící na webu McHire. Ian Carroll a Sam Curry se na toto AI řešení blíže podívali a opravdu je překvapilo, že se mohli přihlásit pomocí jména 123456 a hesla 123456 a získat přístup k údajům o 64 milionech uchazečů o práci.

    Ladislav Hagara | Komentářů: 16
    Jaký je váš oblíbený skriptovací jazyk?
     (59%)
     (26%)
     (7%)
     (3%)
     (1%)
     (1%)
     (4%)
    Celkem 399 hlasů
     Komentářů: 16, poslední 8.6. 21:05
    Rozcestník

    Dotaz: Teoretická: Distributed File System

    18.10.2010 15:43 Alf | skóre: 18
    Teoretická: Distributed File System
    Přečteno: 645×

    Zdravím,

    toto téma je hlavně teoretické, zajímá mě každý váš názor. Můžete psát i věci u kterých si nejste 100% jisti, že to tak jde :). Takže moc se mi líbí přístup ZFS, to vytváření filesystémů je prostě nádherné :), už teď jsem spokojen s LVM, ale ZFS je ještě lepší :). Líbí se mi taky, že umí "online" zapojit další disk.  Což mě přivádí k myšlence, jak to rozdělit na více strojů?

    Představa je následující. Mám 4 storage servery (každý 25TB) a 5 klientů. Výsledek: 4 storage servery budou zapojeny jako jeden, tím mi vznikne 100TB pole. Každý klient bude mít toto pole k dispozici pro čtení/ukládání uživatelských dat. Jako filesystem by mel být použit ZFS.

    Máte nějaké návrhy? Jak byste to řešili?

    Odpovědi

    18.10.2010 16:36 cronin | skóre: 49
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    18.10.2010 19:45 Alf | skóre: 18
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System

    No maximálně podle nadpisu, ale o tomhle toho téma není.

    19.10.2010 08:36 cronin | skóre: 49
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Problem je v zadani, ktore zaroven hovori "Co" (distribuovany suborovy system), aj pozaduje "Ako" (ZFS). Ale vcelku vycerpavajuca odpoved je uz uvedena nizsie.
    18.10.2010 20:17 VSi | skóre: 28
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Myslím, že ZFS přímo nic takového neumí. Podstatné je, jak budou klienti k těm datům přistupovat. Tj. jestli je požadavek na NFS/CIFS a podobné standardní protokoly, které ze strany klienta rozkládání na víc strojů neumí. Dělat nad ZFS nějakou další vrstvu, která by ty 4 stroje spojovala, to je podle mě škoda - může to být něco jako glusterfs (nevím, jestli zrovna ten jde dát nad ZFS).

    Tohle se obvykle řeší 1 serverem a externími diskovými poli (bedna s rámečky na disky, zdrojem, a příslušným rozhraním), která jsou připojena přes SAS, iSCSI, popř. Fibre Channel. Takhle lze připojit velké množství disků (v serveru je možné mít více SAS HBA s více porty, diskové krabice lze někdy kaskádovat), nad kterými lze udělat jednu ZFS instanci. Možnost je také ze 3 serverů svazky exportovat přes iSCSI a na 4. vše spojit do jednoho ZFS, a ten exportovat přes NFS/CIFS...
    21.10.2010 03:00 imro | skóre: 19 | blog: hovado
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Nuz, pokial by sme do toho zahrnuli aj komercne riesenia, tak napr. virtualizacia storage ponuka presne to, co popisujes. Napr. IBM ponuka SVC cluster, ktory ti dokaze spojit tebou popisovane 4 storage. Ten SVC cluster ti potom umoznuje do jednej partition mountnut klientov kolko len chces.
    ...............................................................................
    Ak potrebujes naozaj ZFS, tak sa mrkni na projekt OpenSolaris, ktory ti dokaze urobit z jedneho servra, ku ktoremu je pripojene storage pole, fibre channel target a k nemu pripajat dalsie zariadenia. Velmi uzitocna a hlavne neskutocne vykonna vecicka. To ale neriesi vsetky veci,ktore si popisal,ze potrebujes. Mrkni sem, je to velmi zaujimave poctenicko:
    http://www.anandtech.com/show/3963/zfs-building-testing-and-benchmarking
    Heron avatar 19.10.2010 08:49 Heron | skóre: 53 | blog: root_at_heron | Olomouc
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Představa je následující. Mám 4 storage servery (každý 25TB) a 5 klientů. Výsledek: 4 storage servery budou zapojeny jako jeden, tím mi vznikne 100TB pole. Každý klient bude mít toto pole k dispozici pro čtení/ukládání uživatelských dat. Jako filesystem by mel být použit ZFS
    Možná jsem otázku zcela nepochopil (s nadpisem nemá nic společného), ale co ti brání vzít ta 4 disková pole (export např přes FC, iSCSI apod), zkrátka mít ve výsledku 4 bloková zařízení po 25TB, a nad těmito udělat jeden 100TB ZFS pool?
    20.10.2010 13:31 Alf | skóre: 18
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System

    Do téhle problematiky tolik nevidím, zatím ji oťukávám. Jdu provést nějaké testy :). Jen pro ujištění. Aby to tedy šlo neustále rozšiřovat, musí být každý iSCSI nastaven na každém klientovi. K jednomu souboru pak může přistupovat několik serverů. Ohlídá si to nějak nebo může nastat problém? Řešení jednoho serveru, kde budou všechny iSCSI připojeny a dále exportovat např. přes NFS by mohlo být za čas nedostačující.

    PS: Ještě jednou upozorňuji, jedná se čistě jen o teorii. V žádném případě výsledek této diskuse nebudu závádět někde v produkčním prostředí. Jen chci více proniknout do této problematiky a zkušenosti zde získané použít v budoucnu. Vše to testuji ve virtuálním prostředí, takže se nebráním žádným experimentům.

    Heron avatar 20.10.2010 13:47 Heron | skóre: 53 | blog: root_at_heron | Olomouc
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Aby to tedy šlo neustále rozšiřovat, musí být každý iSCSI nastaven na každém klientovi.

    Nikoliv. To co jsem popisoval já je stav, kdy nad diskovými poli vytvoříš jedno jediné a to potom předáváš klientů (pomocí NFS, případně SAMBy). Pochopitelně tam můžeš přidat další pole a to zastřešující jednoduše rozšířit (ZFS, LVM, to už je jedno).

    Ohlídá si to nějak nebo může nastat problém?

    Za předpokladu, že na daném blokovém zařízení (iSCSI se na straně Iniciátoru - klienta - tváří jako úplně obyčejný disk), je nějaký systém souborů, který umí být sdílen. Znám jenom jeden, VMFS.

    U normálních FS nastane problém po prvním zápisu.

    20.10.2010 13:58 Alf | skóre: 18
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System

    To jsem si myslel. No dobře, každopádně jak to myslíš s tím rozšiřováním? Je to tak jak si to myslím? Tedy budu mít jeden hlavní server a další např. 4 připojený přes iSCSI do toho jednoho. Ten to vyexportuje třeba přes NFS ostatním. V případě potřeby připojím k tomu serveru přes iSCSI další. A až nebude ten hlavní stíhat, tak sestavím nové pole.

    Heron avatar 20.10.2010 14:09 Heron | skóre: 53 | blog: root_at_heron | Olomouc
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Tedy budu mít jeden hlavní server a další např. 4 připojený přes iSCSI do toho jednoho.

    V podstatě takhle jsem to myslel s tím, že těch serverů nemusí být nutně 5. Export toho jednoho pole může klidně dělat jedno z těch diskových polí -- to pokud to chceme mít levné.

    Případně ty jednotící servery mohou být dva v clusteru a ty storage budou zrcadlené -- v případě, že nám jde trochu o data. Tedy celkem 10 strojů.

    Ten to vyexportuje třeba přes NFS ostatním.

    Přesně tak, na tom jednotícím ty iSCSI mohou být spojeny klidně do RAID0 (pokud nám fakt nejde o data a chceme to mít pekelně rychlé), případně jen jako další disk ve VG či ZFS poolu. A nad touto vrstvou pak export přes síťové sdílené FS.

    No dobře, každopádně jak to myslíš s tím rozšiřováním?

    Přidám další pole, přes FC/iSCSI dotáhnu do toho jednotícího serveru a tam ho prostě přidám do R0, ZFS poolu, VG

    S tím si lze hrát poměrně hodně, záleží na co to člověk potřebuje. Bohužel to se často zjistí až po roce provozu a celý storage je potřeba od základů překopat.

    21.10.2010 03:10 imro | skóre: 19 | blog: hovado
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Umoznit viacerym klientom zapisovat do jednej nazvyme to partition by malo zvladnut kazde lepsie pole. A inak, vami spominany VMFS ma obmedzenie na velkost partition-myslim ze su to 2TB, ale teraz presne neviem z hlavy povedat tu hodnotu
    .................................................................................
    Mna by len zaujimalo, na co potrebujete 100TB uceleneho priestoru. Akykolvek filesystem ktory na tom vytvoris bude mat problem sam so sebou. Akurat 3-4 vydania jadernych noviniek sa tejto problematike dost obsirne venovalo.
    Heron avatar 21.10.2010 08:43 Heron | skóre: 53 | blog: root_at_heron | Olomouc
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Umoznit viacerym klientom zapisovat do jednej nazvyme to partition by malo zvladnut kazde lepsie pole.

    Pole jistě, ale systém souborů už ne. Nebo je vícenásobné připojení FS pro zápis v unixovém světě standardem?

    Mna by len zaujimalo, na co potrebujete 100TB uceleneho priestoru.

    Tazatel to bere jako teoretické cvičení. V mailing listech XFS se ale nezřídka objevují požadavky na 100TB. Nepřijde mi to tak přehnané.

    19.10.2010 09:49 FooBar
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Chtel bych te upozornit na jednu takovou veselou poucku -- pokud budes mit opravdu jen rozdistribuovanou storage na 4 servery, tvoje dostupnost bude P^4, kde P = pravdepodobnost ze je storage server up. Tzn. v pripade 4 storage serveru a P = 0.99 mas vyslednou dostupnost 0.96 -- teoreticky tudiz z kazdeho dne jsi hodinu dole, nebo v kazdem roce ctrnact a pul dne dole.

    Bottom line -- potrebujes si zajistit i redundanci mezi serverama, jinak se z toho poseres.
    20.10.2010 13:37 Alf | skóre: 18
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System

    Díky za příspěvek ;). Samozřejmě v produkčním prostředí je to nutné řešit jinak. Každopádně tady mi jde o postup. Ostatní záležitosti jako redudanci teď můžeme nechat stranou.

    21.10.2010 09:47 FooBar
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    Ah, spatne jsem pochopil smysl nadpisu, myslel jsem ze te zajima spis teorie za distribuovanyma datovyma ulozistema, nez "ciste teoreticky, zvolit produkt X nebo Y" ;)
    frEon avatar 19.10.2010 17:34 frEon | skóre: 40 | Praha
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    ja bych si jeste par let pockal a pak nasadil ceph
    Talking about music is like dancing to architecture.
    20.10.2010 13:41 Alf | skóre: 18
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System

    V tom nebude problém ;). Díky za tip.

    frEon avatar 20.10.2010 17:30 frEon | skóre: 40 | Praha
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    np
    Talking about music is like dancing to architecture.
    19.10.2010 17:53 omg
    Rozbalit Rozbalit vše Re: Teoretická: Distributed File System
    pro upresneni. ted jsi spokojen s lvm nebo s clvm?

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.