Limitace rychlosti socketu (vyřešeno)

Zdravim,

chtel bych na linuxu limitovat socket (konkretne tcp spojeni) nejlepe v obou smerech (aktualne me vice zajima prijem dat). Rad bych se vyhnul metode read; sleep; Tedy co me zajima, lze nejak z userspace limitovat velikost tcp ramce, pripadne zahodit vsechny ramce vetsi jak X, aby druha strana posilala jen mensi? Vim ze teoreticky by to slo za pomoci iptables, ale to mi prijde jako protirat si oko pohrabacem.

Stravil jsem uz nejaky cas procitanim manualu k setsockopt a jedine co jsem nasel co by mohlo provoz ovlivnovat je nastaveni vyrovnavaci pameti pro socket, ale to mi neprijde take optimalni?

Ocenim doporuceni, odkaz na literaturu nebo klicova slova pro google.

Dekuji, iK

Even if you fall on your face, you’re still moving forward

Odpovědi

O co se přesně snažíš? Jestli se snažíš řídit objem provozu, tak toho změnou velikosti rámce nedosáhneš. Velikost rámců z druhé strany TCP spojení neovlivníš vůbec nijak, zahazováním dosáhneš jen zpomalení odesílání. Na to ale stačí poslat ICMP zprávu Source Quench. Naopak libovolná linka na trase s menším MTU než má odesílatel ti rámce rozdělí na menší zcela automaticky a neřiditelně.

"2^24 comments ought to be enough for anyone" -- CmdrTaco

2.6.2011 16:54 iKoulee | skóre: 19
Rozbalit Rozbalit vše Re: Limitace rychlosti socketu

Díky,

to ICMP je dobrý nápad, to mě nenapadlo (popravdě si typy ICMP oznámení pamatuju jen velmi rámcově)

Jinak jde mi o řízení objemu provozu a hlavně jeho dopadu.

Ve zkratce: Na stroji mi běží mnohokrát něco takového (někdy i několik stovek):

wget -O /velka-a-ne-prilis-rychla-sotrage --limit-rate=XM http://nejaka_url

a wget dělá něco takového:

select(6, [5], NULL, NULL, {900, 0})    = 1 (in [5], left {899, 999998})
read(5, "/ \200\16\221\2333\302\343\362\7\276\303\247\327PI\370\332_\377\203$n\\r\306\2\34\326\273\336\264"..., 16384) = 16384
write(4, "/ \200\16\221\2333\302\343\362\7\276\303\247\327PI\370\332_\377\203$n\\r\306\2\34\326\273\336\264"..., 4096) = 4096
write(4, "c~\r\253`#f\257\1\2768~\330\302\365\2438\345\370\0212n?\202\336\240M\375\27\367\355\330\264"..., 12288) = 12288
nanosleep({0, 211646177}, {16384, 139718411268904}) = 0

Ja se snažím najít řešeni které bude ohleuplnější jak ke storage tak k síťové infrastruktuře (buffery switche etc.). Tzn najít/najít a upravit/v nejhorším napsat nějaký sw, který by to pokud možno zvládl nahradit bez zbytečných forku a plynule reguloval objem provozu a nevyráběl mi mikropřetížení na storage a síť. Pročež mě aktualně zajímá jak to lze vůbec realizovat, případně jaké na to linux má nástroje. Protože co jsem zatím viděl tak veškeré omezení provozu fungovalo obdobně jak ten wget, tedy přečtu XMB a pak čekám Y vteřin abych dosáhl X/Y MB/s.

Even if you fall on your face, you’re still moving forward

2.6.2011 19:27 rADOn | skóre: 44 | blog: bloK | Praha
Rozbalit Rozbalit vše Re: Limitace rychlosti socketu

Ono to ani o moc lépe udělat nejde, AFAIK jediná podpora řízení provozu v ip4 je „interaktivní“ bit v hlavičce. ICMP zpráva je funkčně identická (dokonce si nejsem jistý jestli ji kernel neodešle sám když mu prestaneš vybírat z přijímací fronty), křikneš na odesílatele „zpomal“ ale nijak nejde předpovědět natož ovlivnit výsledek. To není chyba – nemůžeš vědět jaká je kapacita trasy bez použití dodatečných rezervačních protokolů (aka QoS). Čili to co nabízí wget je to nejlepší čeho se dá bez speciálních nástrojů a protokolů dosáhnout. Nedívej se na zpomalení čtení z fronty jako na primitivní řízení provozu, ale spíš jako na jednoduchý způsob jak kernelu naznačit svoje možnosti/požadavky a nechat skutečné řízení na něm. Kernel je v tomhle ohledu určitě chytřejší a efektivnějši než něco co zbastlíš sám.

Skutečné řízení provozu se neřeší v každém programu zvlášť, ale nastavením pro celé prostředí (stroj nebo síť):

Pokud máš problém se vejít do kapacity linky a zároveň máš složitější požadavky na řízení provozu (program X nebo stroj Y má mít vždy přednost), potřebuješ nastavit traffic shaping na daném stroji nebo na hraničním routeru.
Podobně pokud ti hromady nedůležitých wgetů brzdí zápis z důležitých procesů (např. databáze), použij priority io plánovače. Pro jednoduché skripty stačí použít ionice, větší zátěž můžeš strčit do kontrolní skupiny a řídit ji najednou.

"2^24 comments ought to be enough for anyone" -- CmdrTaco

3.6.2011 15:30 zulu
Rozbalit Rozbalit vše Re: Limitace rychlosti socketu

To teda vůbec není dobrý nápad, dokonce je to kravina. Ty bys neměl dělat nic víc, než prostě číst/zapisovat pomalu. Tečka.

Tak kdyby nekoho zajimalo vysledky meho patrani:

ad trickle - limituje take prumerovanim, tedy stahne a ceka na rozdil od wgetu, nepouziva sleep ale v nekonecne smycce se pta na systemovy cas

ja nakonec pouziju nejspise jinou metodu (podarilo se odstranit nutnost limitovat datovy tok, ktakze se stahuje plnou rychlosti a oestrim pouze planovac I/O a priority I/O obdobne jak pise Radon

jinak "rychlost socketu" lze ridit velikosti tcp window, zde:

https://supportforums.cisco.com/docs/DOC-12668

jsem nasel zajimavy vzorecek:

Optimal TCP Window Size [bytes] = (Minimum Link Bandwidth [bps] / 8[bits/byte]) * RTT [seconds]

hotentotskou metodou jsem si jednoduse pingnul vzdaleny server latency dosadil za RTT vysledne window size jsem nasledne pouzil jako parametr iperfu (--window) a svete div se, prenosova rychlost odpovidala :-)

po konzultaci dokumentace iperfu se zda ze staci socketu nastavit vyrovnavaci pamet na velikost okna a dilo zkazy je dokonano

kdyz mi vyjde cas, pokusim se zmastit nejaky jednoduchy priklad, ktery ma svlova potvrdi a nasledne jej publikovat zde

Take dekuji vsem zucastnenym za snahu a cenne rady

Even if you fall on your face, you’re still moving forward

Dotaz: Limitace rychlosti socketu

Odpovědi