abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 23:11 | Nová verze

Byla vydána verze 2.4.0 analyzátoru síťového provozu Wireshark. Jedná se o první stabilní verzi nové řady 2.4. Podrobný přehled novinek v poznámkách k vydání. V červnu proběhla konference SharkFest’17 US věnovaná Wiresharku. Záznamy přednášek jsou k dispozici na YouTube.

Ladislav Hagara | Komentářů: 0
včera 13:11 | Pozvánky

Spolek OpenAlt zve příznivce otevřeného přístupu na 142. brněnský sraz, který proběhne v pátek 21. července od 18:00 hodin ve Sport Centru Srbská (Srbská 4). Od 19:00 je pro zájemce zamluveno hřiště na plážový volejbal.

Ladislav Hagara | Komentářů: 0
včera 12:34 | Bezpečnostní upozornění

V GNOME Soubory, původně Nautilus, konkrétně v generování náhledů exe, msi, dll a lnk souborů byla nalezena a opravena bezpečnostní chyba CVE-2017-11421 s názvem Bad Taste. Při otevření složky obsahující tyto soubory může být spuštěn VBScript obsažen v názvech těchto souborů.

Ladislav Hagara | Komentářů: 2
včera 11:00 | Bezpečnostní upozornění

Společnost Oracle vydala čtvrtletní bezpečnostní aktualizaci svých softwarových produktů (CPU, Critical Patch Update). Opraveno bylo celkově 308 bezpečnostních chyb. V Oracle Java SE je například opraveno 32 bezpečnostních chyb. Vzdáleně zneužitelných bez autentizace je 28 z nich. V Oracle MySQL je opraveno 30 bezpečnostních chyb. Vzdáleně zneužitelných bez autentizace je 9 z nich.

Ladislav Hagara | Komentářů: 0
včera 01:00 | Komunita

Mark Krenz, známý svým twitterovým účtem @climagic (Command Line Magic), kde ukazuje, co vše a jak lze dělat v příkazovém řádku, přednášel včera v Praze. Záznam přednášky je k dispozici na YouTube.

Ladislav Hagara | Komentářů: 0
19.7. 10:00 | Nová verze

Microsoft vydal Skype pro Linux ve verzi 5.4 Beta. Nejnovější Skype pro Linux je postaven na frameworku Electron 1.7.4 a přináší skupinové videohovory.

Ladislav Hagara | Komentářů: 11
19.7. 06:00 | Nová verze

Werner Koch, zakladatel a hlavní vývojář GnuPG, oznámil vydání verze 1.8.0 svobodné kryptografické knihovny Libgcrypt. Jedná se o první stabilní verzi nové řady 1.8. Ta je API i ABI kompatibilní s řadou 1.7. Z novinek vývojáři zdůrazňují podporu kryptografických hašovacích funkcí Blake2 (Wikpedie), šifrovací mód XTS nebo zvýšení výkonu na architektuře ARM.

Ladislav Hagara | Komentářů: 0
18.7. 15:55 | Zajímavý projekt

Stefan Vorkoetter představil na svých stránkách DIY tablet s Raspberry Pi 3 Model B. Z Raspberry Pi odstranil USB porty, ethernetový port i GPIO konektor. Použil oficiální sedmipalcový dotykový displej s rozlišením 800x480 pixelů. Hmotnost tabletu je 484  g.

Ladislav Hagara | Komentářů: 6
18.7. 06:00 | Zajímavý projekt

Podpořit vývoj otevřených technologií pro rozpoznávaní řeči lze na stránkách Common Voice. Jedná se o projekt Mozilly, jehož prvním cílem je nahrání a následné zveřejnění pod open source licencí 10 000 hodin záznamů řeči. Pomoci může kdokoli. Stačí na stránkách projektu do mikrofonu přečíst napsaný text nebo si nechat přehrávat již nahrané záznamy a určovat, zda napsaným textům odpovídají. Podrobnosti v často kladených otázkách (FAQ).

Ladislav Hagara | Komentářů: 4
18.7. 05:00 | IT novinky

Do pátku probíhá v Praze IETF 99, tj. 99. setkání organizace Internet Engineering Task Force (IETF) odpovědné za tvorbu internetových standardů RFC (Request for Comments). Vybrané přednášky a jednání lze sledovat online. Záznamy jsou k dispozici na YouTube. Těsně před setkáním bylo vydáno RFC 8200 nahrazující RFC 2460 a po více než 18 letech standardizující IPv6 (STD 86).

Ladislav Hagara | Komentářů: 0
Chystáte se pořídit CPU AMD Ryzen?
 (7%)
 (31%)
 (1%)
 (10%)
 (43%)
 (8%)
Celkem 1025 hlasů
 Komentářů: 65, poslední 1.6. 19:16
    Rozcestník

    Dotaz: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.

    17.5.2015 17:12 lertimir | skóre: 60 | blog: Par_slov
    Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Přečteno: 685×
    Chci se jen ujistit, že tomu co jsem si načet rozumím správně. Situace je taková. Mám desktop a server, část datového prostoru server je exportováno jako NFS share a mounuto k desktopu řekněme adresář /mnt/server. V části tohoto připojeného prostoru je datová kopie (záloha) důležitého stromu (fotky dokumenty). Zkopírovat to samozřejmě mohu různými způsoby, od cp přes synchronizaci adresáře v krusaderu, rsync lokálně mezi ~/data /mnt/server/data pak rsync --rsh="ssh -l uzivatel" . 10.0.0.1:/mnt/export1/data. Ale obávám se, že všechno tohle přes síť fakticky přetlačí všechnno z data a jediná možnost je na serveru mít rsyncd a kopírovat to s ním. Dat už je celkem dost tak. Je to mu tak nebo to jde i jinak?

    Řešení dotazu:


    Odpovědi

    17.5.2015 17:27 petr_p | skóre: 59 | blog: pb
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.

    Mezi rsyncd a rsync pres SSH by neměl být rozdíl.

    rsync normálně používá metadata (čas změny a velikost), aby považoval soubory za stejné a nezkoumal jejich obsah. Ve zbývajících případech samozřejmě musí přečíst obsah. Takže pokud nechceš tahat data po síti tam a zpět, tak místo kopírování na rsyncu do přípojeného NFS použij rsync proti serveru.

    Na konec v upovídaném režimu klient hlásí, kolik dat přenesl po síti. Tak si můžeš změřit.

    Jendа avatar 17.5.2015 17:28 Jendа | skóre: 73 | blog: Výlevníček | JO70FB
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Ale obávám se, že všechno tohle přes síť fakticky přetlačí všechnno z data a jediná možnost je na serveru mít rsyncd a kopírovat to s ním.
    Ne, rsync přes ssh je ekvivaletní rsyncd a přenáší taky jen změny (ze zvyku teda dávám --partial). Ostatně můžeš si to zkusit…

    rsync lokálně bude kopírovat jen změněné soubory, ale celé, protože by stejně musel ten druhý soubor přečíst.
    17.5.2015 21:08 lertimir | skóre: 60 | blog: Par_slov
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    takže ten rsync přes ssh spustí na druhé straně také rsync, protože když mám 100M soubor se změněným 1M musí to oba lokálně na svém systému přečíst, nějak nasekat a vyměnit si hashe těch částí a na základě zjištění rozdílných částí, jen ty přenést, jinak si to představit nedokážu.
    17.5.2015 22:30 dustin | skóre: 61 | blog: dustin
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Přesně tak to funguje
    21.5.2015 12:28 lertimir | skóre: 60 | blog: Par_slov
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    A je rsync schopen i najit když do souboru je něco vloženo (vystříhnuto)? Protože to by nebylo jen porovnání bloků, ale nalezení (libovolného) bitového posunu něco jako diff pro binárku a ne text.
    21.5.2015 18:36 Filip Jirsák
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Ano, je toho schopen. Tedy pokud to vložené je zarovnané na bajty, bitové posuny rsync nehledá (protože i ostatní software pracuje s bajty a ne s bity).

    Rsync používá pro nalezení shodných bloků kontrolní součet, který se snadno aktualizuje, když ten blok postupně posouváte po souboru. Tj. spočítá se kontrolní součet bloku, pak se blok o bajt posune, a se znalostí toho předchozího součtu, bajtu, který vypadl, a nového bajtu rychle spočítáte kontrolní součet nového bloku. Takhle si rsync rychle spočívá kontrolní součty všech bloků souboru na cílové straně. Odesílající strana pak jen odešle „1. blok má součet XY, 2. blok ZZ“ atd. Příjemce se pak podívá, jestli blok s takovým kontrolním součtem zná, pokud ano, tak ho použije, pokud ne, řekne si odesílající straně o celý blok. Celé je to samozřejmě trošku složitější, např. ten rychlý kontrolní součet bloku není kryptograficky bezpečný (může se stát, že dva různé bloky mají stejný součet), takže se pak shoda ověřuje ještě nějakou kryptograficky bezpečnou hashovací funkcí.
    alles32 avatar 20.5.2015 17:40 alles32 | skóre: 15 | Evropa
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    zdar, a nebo muzes pouzit nejakej verzovaci system, treba svn. pri commitu ~/data do /mnt/server/data se dostanou jen novy a nebo zmeneny fajly.
    20.5.2015 19:20 lertimir | skóre: 60 | blog: Par_slov
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Verzovací systém na fotky a videa není asi vhodné. Prostě když sáhnu na 50 GB fotek tím že upravuji metadata, a jen 2-5G je fakticky upravených, ale fakticky všechny mají nové časy, tak přenášet jen to, co se změnilo. navíc verzování je hlavně když potřebuji držet historii. To když bych použil tak mám desítky TB fotek.
    Josef Kufner avatar 20.5.2015 20:19 Josef Kufner | skóre: 67
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Mohl bys zkusit použít Git Annex. Ten je dělaný na verzování velkých souborů a s tímto by se měl vyrovnat. Na pozadí pro samotný přenos také používá rsync.
    Hello world ! Segmentation fault (core dumped)
    alles32 avatar 23.5.2015 13:43 alles32 | skóre: 15 | Evropa
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    zdar verzovaci systemy jsou stejne pouzitylny aj pro verzovani binarnich fajlu, akorat neukazuje diff. zmena timestampu neznamena pro svn zmenu v souboru, nybrz pouziva binary-differencing algorithm. rtfm ;]
    23.5.2015 16:19 lertimir | skóre: 60 | blog: Par_slov
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Ale otázka je, jak pozná rozdíl, aniž by přenášel data po síti. ten rsync problém řeší. Ale u verzování to stejně musím přečíst. takže musím to NFS přenést po síti. Jedna RAW fotka má 30-50MB, pokud do jednoho focení s akce, což je třeba 500 fotek dodám později pár metatagů, tak ten verzovací systém musí přečít data originálu a data kopie a zjistit že v originálu mám o metatagy navíc a co bude dělat? Pošle celé nové soubory do cílového adresáře. Takže data pojedou přes NFS dvakrát. jednou aby se zjistilo, co je obsahem kopie. a po druhé, když se zjistí, že originál je novější tak se pošle originál a zase poteče přes síť. Kdežto ten rsync jak tomu rozumím a už jsem si i zkusil pošle jen CRCčka a hashe jednotlivých částí a pak pošle jen skutečné rozdíly a čtení probíhá lokální rychlostí disků, vzhledem k tomu že na obou stranách jsou raidy tak je to přes 200MB/s, i na gigabitu jsem někde u 90 MB/s.
    20.5.2015 18:30 smartass
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    delta-xfer algoritmus jde vynutit i pro lokální cesty pomocí --no-whole-file, což se může právě v případě NFS hodit. Je ale dost pravděpodobné, že bude účinnější použít přímo kód rsyncu pro přenos dat po síti (pomocí rsyncd nebo ssh) místo NFS. Narozdíl od NFS přístupu totiž může rsync proces na serveru číst data na serveru rychleji, než lokální proces přes NFS a čas nutný k výpočtu rozdílu se tak přibližně z poloviny přesune na server. Samozřejmě toto jsou jen teoretické úvahy, asi mohou existovat případy, kdy to bude naopak.
    20.5.2015 20:08 Filip Jirsák
    Rozbalit Rozbalit vše Re: Použití rsync tak, aby se po sítí skutečně přenášely jen rozdíly dat.
    Pokud máte připojené NFS, musí se pro porovnání toho souboru nejprve celý soubor přes síť přenést (NFS protokolem). Právě proto je výhodnější rsync, protože ten čte data (rychle) z lokálního disku (na obou stranách), a po síti se přenese jen rozdíl.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.