Dotaz: Limitace rychlosti socketu

[iKoulee]

Zdravim,

chtel bych na linuxu limitovat socket (konkretne tcp spojeni) nejlepe v obou smerech (aktualne me vice zajima prijem dat). Rad bych se vyhnul metode read; sleep; Tedy co me zajima, lze nejak z userspace limitovat velikost tcp ramce, pripadne zahodit vsechny ramce vetsi jak X, aby druha strana posilala jen mensi? Vim ze teoreticky by to slo za pomoci iptables, ale to mi prijde jako protirat si oko pohrabacem.

Stravil jsem uz nejaky cas procitanim manualu k setsockopt a jedine co jsem nasel co by mohlo provoz ovlivnovat je nastaveni vyrovnavaci pameti pro socket, ale to mi neprijde take optimalni?

Ocenim doporuceni, odkaz na literaturu nebo klicova slova pro google.

Dekuji, iK

---

---

Odpovědi

[rADOn]

O co se přesně snažíš? Jestli se snažíš řídit objem provozu, tak toho změnou velikosti rámce nedosáhneš. Velikost rámců z druhé strany TCP spojení neovlivníš vůbec nijak, zahazováním dosáhneš jen zpomalení odesílání. Na to ale stačí poslat ICMP zprávu Source Quench. Naopak libovolná linka na trase s menším MTU než má odesílatel ti rámce rozdělí na menší zcela automaticky a neřiditelně.

[iKoulee]

Díky,

to ICMP je dobrý nápad, to mě nenapadlo (popravdě si typy ICMP oznámení pamatuju jen velmi rámcově)

Jinak jde mi o řízení objemu provozu a hlavně jeho dopadu.

Ve zkratce: Na stroji mi běží mnohokrát něco takového (někdy i několik stovek):

wget -O /velka-a-ne-prilis-rychla-sotrage --limit-rate=XM http://nejaka_url

a wget dělá něco takového:

select(6, [5], NULL, NULL, {900, 0})    = 1 (in [5], left {899, 999998})
read(5, "/ \200\16\221\2333\302\343\362\7\276\303\247\327PI\370\332_\377\203$n\\r\306\2\34\326\273\336\264"..., 16384) = 16384
write(4, "/ \200\16\221\2333\302\343\362\7\276\303\247\327PI\370\332_\377\203$n\\r\306\2\34\326\273\336\264"..., 4096) = 4096
write(4, "c~\r\253`#f\257\1\2768~\330\302\365\2438\345\370\0212n?\202\336\240M\375\27\367\355\330\264"..., 12288) = 12288
nanosleep({0, 211646177}, {16384, 139718411268904}) = 0

Ja se snažím najít řešeni které bude ohleuplnější jak ke storage tak k síťové infrastruktuře (buffery switche etc.). Tzn najít/najít a upravit/v nejhorším napsat nějaký sw, který by to pokud možno zvládl nahradit bez zbytečných forku a plynule reguloval objem provozu a nevyráběl mi mikropřetížení na storage a síť. Pročež mě aktualně zajímá jak to lze vůbec realizovat, případně jaké na to linux má nástroje. Protože co jsem zatím viděl tak veškeré omezení provozu fungovalo obdobně jak ten wget, tedy přečtu XMB a pak čekám Y vteřin abych dosáhl X/Y MB/s.

[rADOn]

Ono to ani o moc lépe udělat nejde, AFAIK jediná podpora řízení provozu v ip4 je „interaktivní“ bit v hlavičce. ICMP zpráva je funkčně identická (dokonce si nejsem jistý jestli ji kernel neodešle sám když mu prestaneš vybírat z přijímací fronty), křikneš na odesílatele „zpomal“ ale nijak nejde předpovědět natož ovlivnit výsledek. To není chyba – nemůžeš vědět jaká je kapacita trasy bez použití dodatečných rezervačních protokolů (aka QoS). Čili to co nabízí wget je to nejlepší čeho se dá bez speciálních nástrojů a protokolů dosáhnout. Nedívej se na zpomalení čtení z fronty jako na primitivní řízení provozu, ale spíš jako na jednoduchý způsob jak kernelu naznačit svoje možnosti/požadavky a nechat skutečné řízení na něm. Kernel je v tomhle ohledu určitě chytřejší a efektivnějši než něco co zbastlíš sám.

Skutečné řízení provozu se neřeší v každém programu zvlášť, ale nastavením pro celé prostředí (stroj nebo síť):

• Pokud máš problém se vejít do kapacity linky a zároveň máš složitější požadavky na řízení provozu (program X nebo stroj Y má mít vždy přednost), potřebuješ nastavit traffic shaping na daném stroji nebo na hraničním routeru.
• Podobně pokud ti hromady nedůležitých wgetů brzdí zápis z důležitých procesů (např. databáze), použij priority io plánovače. Pro jednoduché skripty stačí použít ionice, větší zátěž můžeš strčit do kontrolní skupiny a řídit ji najednou.

[zulu]

To teda vůbec není dobrý nápad, dokonce je to kravina. Ty bys neměl dělat nic víc, než prostě číst/zapisovat pomalu. Tečka.

[Sten]

Záleží, co máte na mysli limitováním spojení. Pokud chcete limitovat rychlost na danou maximální hodnotou, tak nic lepšího než read / sleep (resp. jiný časovač) není. Omezení backlogu má vliv jenom na délku fronty, ale samotnou rychlost prakticky nijak neovlivňuje. Můžete read / sleep emulovat přes iptables (-j LIMIT), pokud nechcete hrabat do programu, ale bude to dost neefektivní. Pokud ale chcete limitovat prioritu (tj. program využije celé pásmo, pokud ho nebude potřebovat někdo jiný), to uživatelský program neudělá a je na to potřeba iptables.

[FF]

A co ECN pole? http://en.wikipedia.org/wiki/Explicit_Congestion_Notification Z jedne prednasky vycuc - Toto pole slouží k signalizaci stavu zahlcení sítě. Vysílače na to reagují snížením okna na polovinu. Treba vy to šlo uměle nastavit.

[luky]

Ak potrebujes limitovat len urcity program, tak mne sa osvedcila utilitka "trickle" http://monkey.org/~marius/pages/?page=trickle

Na googli sa daju najst aj nieake tutotialy k programu, pripadne sa mozes inspirovat aj priamo zdrojakmi programu.

[dustin]

Přesně tak, trickle je výborné. A zdroják určitě napoví, jak se to dělá.

[iKoulee]

Tak kdyby nekoho zajimalo vysledky meho patrani:

ad trickle - limituje take prumerovanim, tedy stahne a ceka na rozdil od wgetu, nepouziva sleep ale v nekonecne smycce se pta na systemovy cas

ja nakonec pouziju nejspise jinou metodu (podarilo se odstranit nutnost limitovat datovy tok, ktakze se stahuje plnou rychlosti a oestrim pouze planovac I/O a priority I/O obdobne jak pise Radon

jinak "rychlost socketu" lze ridit velikosti tcp window, zde:

https://supportforums.cisco.com/docs/DOC-12668

jsem nasel zajimavy vzorecek:

Optimal TCP Window Size [bytes] = (Minimum Link Bandwidth [bps] / 8[bits/byte]) * RTT [seconds]

hotentotskou metodou jsem si jednoduse pingnul vzdaleny server latency dosadil za RTT vysledne window size jsem nasledne pouzil jako parametr iperfu (--window) a svete div se, prenosova rychlost odpovidala

po konzultaci dokumentace iperfu se zda ze staci socketu nastavit vyrovnavaci pamet na velikost okna a dilo zkazy je dokonano

kdyz mi vyjde cas, pokusim se zmastit nejaky jednoduchy priklad, ktery ma svlova potvrdi a nasledne jej publikovat zde

Take dekuji vsem zucastnenym za snahu a cenne rady