Dotaz: Blesková duplikace souboru

[q]

Hoj, chtěl bych se prosím pěkně zeptat, zdali by mi mohl někdo dát tip na filesystem, který by mi umožnil okamžitě udělat dočasnou kopii většího (třeba 1GB) souboru, pracovat s ním nezávisle na původním (do obou R/W) a pak ho smazat.

Modelová situace. Mám na vývojovém serveru soubor, který pravidelně synchronizuji s produkčním serverem - zapisuji si jen změny. Je dost velký. Jsou v něm data. Občas potřebuji na vývojovém vytvořit za účelem testování na čerstvých datech duplicitu tohoto souboru, což jelikož vývojový je pomalejší, chvilku trvá, než se to gigo přepíše z disku na disk. Někdy neúměrně tomu jak dlouho trvá otestování drobného detailu, na který jsou ale čerstvá data nezbytná.

No a já bych potřeboval aby při duplikaci se vytvořil soubor pouze virtuálně (ne fyzicky kopií bajtů z místa na místo), něco jako snapshot s tím, že by do obou šlo psát i z nich číst a chovaly navenek se oba jako nezávislé soubory. Data, která by byla zapsána do nového by byla zapsána do nového, data čtená z nového ale existující pouze virtuálně by byla čtena ze starého pokud se nezměnila, data ve starém, která se mají tendenci změnit by byla před změnou zapsána do nových souborů aby byly v nových k dispozici. Pak by měl takový filesystem mít něco na vytvoření reálného fyzicky zapsaného souboru z takového virtuálního - jakože udělat v tom výsledném zmatku pořádek.

Nevím jestli to někdo pochopí co hledám. Třeba jo:) A nebo se naučím programovat souborové systémy v userspace a naprogramuju si to sám :) Ovšem jestli je něco už hotového ... ? Ví někdo ?

---

---

Odpovědi

[Max]

btrfs a rw snapshot?
Zdar Max

[q]

dekuju, mrknu, vyzkousim.

[Andrej]

Snapshot je pro jeden soubor kanón na vrabce. Stačí cp --reflink.

[dustin]

Hezké, díky za tip

[hrusak]

a musí to být rovnou filesystem? Já bych tohle asi řešil gitem.

[dusan]

Ak jediný nástroj ktorý máš k dispozícii je kladivo, všetko vyzerá ako kliniec.

[Franta]

+1

[pepe_]

A co soubor nakopírovat do ramdisku , vytvořit jeho link kde má bejt a pak zase do ramdisku dělat kopie ?

na 32Gb ram to jistě nebude problém a rychlost je jinde ...

[pepe_]

Jen test , vytvořil sem 8GB ramdisk v /tmp

pepe@PC-Pepe-Linux:/tmp$ dd if=/dev/zero of=soubor bs=1024 count=1000000
1000000+0 vstoupivších záznamů
1000000+0 vystoupivších záznamů
1 024 000 000 bajtů (1,0 GB) zkopírováno, 1,70849 s, 599 MB/s
pepe@PC-Pepe-Linux:/tmp$ time cp soubor soubor.bak

real    0m0.649s
user    0m0.006s
sys     0m0.619s
pepe@PC-Pepe-Linux:/tmp$ ls so* -l
-rw-rw-r-- 1 pepe pepe 1024000000 led  2 12:46 soubor
-rw-rw-r-- 1 pepe pepe 1024000000 led  2 12:46 soubor.bak

takže nevidim důvod patlat se se snapshoty .

[Andrej]

Já tedy důvod rozhodně vidím. Kdyby se soubor a soubor.bak lišily například v jednom bloku, je lepší mít obsazenou kapacitu v rozsahu velikost souboru plus jeden blok než dvakrát velikost souboru. Kromě toho žádný opravdový snapshot není potřeba, u Btrfs stačí cp --reflink.

Většinou není nutné ramdisk vytvářet takto explicitně, protože při dostatečně velké RAM se beztak používá disková cache a na disk se zapisuje až s relativně velkým zpožděním. Použití standardního filesystému tedy nemusí být až tak nevýhodné. Naopak jeho velkou výhodou je, že má člověk o něco menší šanci přijít o data.

Já používám cp --reflink zejména pro třídění fotek. Stáhnu například 10 GB fotografií a videa rovnou ze zrcadlovky. Zkopíruju pak příslušný adresář pomocí cp --reflink, což je hotovo z lidského hlediska „okamžitě“. Pak můžu v kopii libovolně mazat (což je nejčastější operace), zkracovat, editovat, upravovat a tak podobně, aniž bych potřeboval kopírovat velký objem dat naráz.

[Ivan]

NTFS, VxFS

[Andrej]

NTFS nemá přímý ekvivalent toho, co dělá cp --reflink na Btrfs. Navíc není úplně jasné, jaký smysl má v rubrice „linuxová poradna“ zmínka o jakémsi obskurním filesystému, který tazatelem požadovanou funkčnost vůbec nenabízí.

[Andrej]

cp --reflink je příkaz, který hledáš. Funguje například na Btrfs. Druhou možností je vytvořit si subvolume a z něj pak snapshoty (také na Btrfs), ale jde-li jen o jeden soubor, pak nejspíš cp rulezzz.

[Andrej]

Ještě bych doplnil, že Copy-on-Write udělá soubor, který vypadá po všech stránkách naprosto „reálně“ a není na něm vůbec nic „virtuálního“. Není tedy absolutně žádný důvod ho po úpravách nějak explicitně znovu kopírovat a konvertovat. Prostě některé bloky můžou zůstat sdílené mezi soubory a některé (ty pozměněné) třeba zase sdílené nebudou. Na tom není nic špatně a je to úplně normální stav. ZFS a Btrfs jsou filesystémy, které něco takového podporují.

Například ZFS dokonce podporuje deduplikaci, tedy automaticky vyhledává bloky, které jsou v několika souborech stejné, a zajistí jejich sdílení, aby byly na disku jen jednou.

Při použití CoW samozřejmě nemusí platit, že by součet velikostí souborů musel být menší nebo roven celkovému obsazenému prostoru. (Ale komu to vadí?)

Kdybys chtěl za každou cenu zkopírovat soubor bez Copy-on-Write a obsadit si tak zbytečně místo na disku duplicitními daty, stačí použít cp be --reflink.

[Andrej]

s/cp be --reflink/cp bez --reflink/