Portál AbcLinuxu, 8. května 2025 00:01

Dotaz: Jak sekvenčně krmit pipe?

5.11.2007 10:14 Ctirad Feřtr | skóre: 43 | Praha
Jak sekvenčně krmit pipe?
Přečteno: 584×
Odpovědět | Admin
Ahoj, mám problém, jehož řešení je asi naprosto triviální, ale nemůžu na něj zaboha přijít.

Mám vytvořenou pajpu přem mkfifo, za kterou číhá na data gzip a tar. Do ní catem posílám obrovský archiv rozsekaný splitem na menší kousky a potřeboval bych nějak vyřešit, aby po skončení souboru protistrana počkala na další díl a neskončila s hláškou o neočekávaném konci souboru. Najednou to poslat nemůžu, protože archiv je rozstrkaný po několika médiích.
Nástroje: Začni sledovat (0) ?Zašle upozornění na váš email při vložení nového komentáře.

Odpovědi

5.11.2007 10:27 dustin | skóre: 63 | blog: dustin
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Odpovědět | | Sbalit | Link | Blokovat | Admin
Šlo by ze streamu odstraňovat konce souboru?
5.11.2007 11:02 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Mám to chápat tak, že triviálně to opravdu nejde? Co se odstraňování týče, pokud to jde udělat něčím snadno a bez znalosti přesné délky souboru, tak asi ano.
5.11.2007 11:06 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Odpovědět | | Sbalit | Link | Blokovat | Admin
Ještě mě napadá rozdělit to něčím chytřejším než je split, co si ty začátky a konce ošéfuje, ale nevím čím.
5.11.2007 12:29 miro
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Chytřejší je multivolume tar archive, tam mám ověřeno, že bzip čeká (a předpokládám, že gzip by to mohl umět taky), dokud mu nepředhodíte další díl archivu, a ukončí se teprve po průchodu posledního archivu rourou. Teď jsem to zrovna řešil (pravda pouze pomocí |, pojmenovanou rouru jsem nepotřeboval), mrkněte se sem, třeba vám to pomůže.
5.11.2007 12:34 dustin | skóre: 63 | blog: dustin
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Čeká, protože tar na vstupní straně stále běží a rouru nezavírá, narozdíl od opakovaného spouštění catů.

Ale určitě to nějak musí jít i přes cat.
5.11.2007 12:52 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Bohužel potřebuju, aby to chodilo univerzálně i když na druhém konci nebude zrovna tar. Zatím jsem úspěšně otestoval workaround, kdy pajpu držím otevřenou jiným procesem (sleep 99999 > pajpa ) a pak můžu vesele catovat. Ale čisté řešení si představuju jinak. Ještě zkusím postup popsaný níže.
5.11.2007 13:54 dustin | skóre: 63 | blog: dustin
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Myslím, že to je přesně řešení, které popisuje petris. Chytrý hack.
5.11.2007 16:28 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Chytrý moc není. Nakonec je potřeba zabít ten sleep, aby se to ukončilo.
5.11.2007 16:38 dustin | skóre: 63 | blog: dustin
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
No jo, ale jak má vědět, kdy se má ukončit? EOF musí ingnorovat, zavření na druhé straně musí ignorovat. Stejně budeš muset něco killnout, až catneš poslední soubor. Nebo jsem to blbě pochopil?
5.11.2007 16:50 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Ten gzip by přece měl poznat, že je konec archivu a tudíž by se měl korektně ukončit, hádám.
5.11.2007 17:06 happy barney | skóre: 34 | blog: dont_worry_be_happy
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
shell 1:
< fifo cat

shell 2:
exec 4>fifo
echo 1 > fifo
cat aaa >&4
cat bbb >&4
...
exec 4>/dev/null
5.11.2007 20:53 foo bar
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Elegance sama!
5.11.2007 17:00 petris
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Kdyz si tu rouru otevrete pres exec, jak jsem Vam poradil, bude otevrena az do doby nez ukoncite shell, takze to je naprosto korektni reseni.
5.11.2007 11:17 dustin | skóre: 63 | blog: dustin
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Odpovědět | | Sbalit | Link | Blokovat | Admin
Možná si to představuji špatně, ale chápu to takto:

Příklad více souborů v jednom příkazu cat:

cat otevře pipu, do ní postupně posílá obsahy souborů, nakonec pipu zavře. Zavření se projeví na druhé straně (EOF?), gzip ukončí.

Více opakovaných catů:

cat pokaždé otevře a na konci zavře pipu, tudíž gzip ukončí, samozřejmě zařve chybu, protože není regulérní konec zipové struktury.

Asi jde o to zajistit, aby se uzavření na jedné straně nepřeneslo na druhou stranu. Myslím, že tak se chová netcat (tam musím druhé straně přes -q říci, aby se ukončila po zavření vysílací strany). Možná bys to mohl zkusit přes netcat localhost, ale byl by to ukrutný hack :).
5.11.2007 11:30 Aleš Kapica | skóre: 52 | blog: kenyho_stesky | Ostrava
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Nasaď na druhou stranu smyčku.. Tj. aby se ti po přerušení opět nahodil..
5.11.2007 11:37 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
A neposunu tím problém jenom o jednu úroveň dál?
5.11.2007 11:54 petris
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Odpovědět | | Sbalit | Link | Blokovat | Admin
Otevrte si tu rouru v shellu a presmerovavejte vystup do takto ziskaneho fd. Jak na to se doctete v help exec pripade man bash.
5.11.2007 15:07 Jiří (BoodOk) Kadeřávek | skóre: 19 | blog: BoodOk | Brno
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
Odpovědět | | Sbalit | Link | Blokovat | Admin
Co použít tail -f, ten se s koncem souboru neukončí.
Věda má v sobě určitou zpupnost, že čím dokonalejší techniku vyvineme, čím více se dozvíme, tím lepší budou naše životy.
5.11.2007 16:29 Ctirad Feřtr | skóre: 43 | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?
S tím jsem experimentoval, ale buď dělám něco blbě nebo to nejde, protože mi gzip hned zahlásí, že data nejsou gzip file.
5.11.2007 19:24 Vojtěch Horký | skóre: 39 | blog: Vojtův zápisník | Praha
Rozbalit Rozbalit vše Re: Jak sekvenčně krmit pipe?

Tohle nefunguje?

tail -f <roura | tar ... 
I am always ready to learn although I do not always like to be taught. (W. Churchill)

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267, (c) 1999-2007 Stickfish s.r.o.