Ako dosiahnuť s rsync over ssh až 40MB/s ?

20.5.2022 11:12 | Přečteno: 1903× | c0mput3rs | poslední úprava: 20.5.2022 11:21

Takže dnes len mini zápis. Potrebujem robiť dosť často rsync celého systému z jedného servera do mirror adresára na druhom stroji (cez ssh) a dlhodobo som sa potýkal s problémom dostať sa nad 10 - 15MB/s. Trošku som sa pohral s nastaveniami rsync over ssh a tu je výsledok - cez 40 MB/s. Hádam sa to bude niekomu hodiť.

Takže z lokálneho stroja robíme komplet rsync celého systému na stroj user@ip do adresára destination_dir (excludnuť si môže každý podľa želania čo len chce).

rsync -aHAXxv --numeric-ids --delete --progress --human-readable -e "ssh -T -c aes256-gcm@openssh.com -o Compression=no -x" / --exclude={"/swapfile","/dev/*","/proc/*","/sys/*","/tmp/*","/run/*","/mnt/*","/media/*","/lost+found"} user@ip:/destination_dir

       

Komentáře

[David Heidelberg]

320 Mbit z 1 Gbit síťovky není takovej odvar, ale jde to přes ssh, takže to chápu, btw. hledání "rsync ssh 1gbit" 1. odkaz https://gist.github.com/sbamin/8c76fa146d43c5e4a287753921e1f05b

[disorder]

vela stastia s pouzitim arcfour

[Mayhem]

Proc ne obycejny rsync? Ale jinak +1.

[MP]

Co zkusit paralelni rsync popr. rsync server?

[t@fu]

Pustit 4 vlaky na jednokolejku ma jaky smysl? :D

[Jendа]

Protože to může hnít na latenci (sítě, ale třeba i disku -- dneska pro velké I/O chceš používat NCQ) nebo na výkonu jednoho jádra procesoru.

[petr_p]

Vzhledem k tomu, že autorovi stačilo změnit nastavení SSH, tak bych neřekl, že měl problém se sítí nebo diskem. V podstatě celý zápisek by se dal zkrátit na vypněte kompresi (-o Compression=no) a šifrujte pomocí AES-256 (-c aes256-gcm@openssh.com). To první má značný význam pro odlehčení procesoru, to druhé trochu také, pokud SSH/OpenSSL používá akceleraci SIMD instrukcemi procesoru. Při takto vysokých datových tocích se už může dostat na hranici výkonu jednoho jádra procesoru a vypnutí nepotřebných transformací může pomoci. Pro ověření hypotézy bych doporučil rsync na localhostu a sledovat vytížení procesoru.

[t@fu]

Hnit na latenci? Dafuq? Se bavime o 1GB LAN kde jedina latence je vytukat na klavesnici prikaz rsync A i kdyby cil byl za sedmero horama, za sedmero rekama, za sedmero kopci a sedmero lesy tak v dobe 4K youtube pres https je latence maximalne pri navazani spojeni a pak to frci!

[Jendа]

Ty jsi nečetl odkazovaný článek?

[Jendа]

Vypichujeme to podstatné, chápu, že je to dlouhé:

Bohužel, tohle OpenSSH nedělá. Přestože podkladové TCP spojení zvládne výrazně více, SSH nad ním přenášelo dříve data pouze po 64kB blocích. Později byl tento limit navýšen na 1024 kB.

(vlastní flow control s moc malým oknem)

[R.C.]

Na muj stroj OpenSSH nesmi! Do roku 20 bugu z toho 1-2 critical. Ja mam Dropbeara. Teleport taky neni spatny.

[bandurek]

Jen pro zajímavost jak je ten systém velikej?

[cbrpnk]

size: 250G  used: 150G   free: 100G

[Grèta]

Šifrování je neekologické. Kdyby se na jeden den upustilo od ssh, vpn a https tak se ušetří uhlíkových exhalátů v ekvivalentu spálení 6 tankerů ropy a 181 vagonů uhlí. Baterky v mobilech by měli o 37% větší výdrž. Bůh stejně vscheno vidí a zná tak vás šifrování před nebeským soudem stejně neochrání.

[Petr Tomášek]

A jéje, to zas bude jednou komix...