abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 00:33 | Zajímavý článek

Správce nástroje curl Daniel Stenberg na GitHubu průběžně vytváří svou novou knihu Uncurled, v níž shrnuje své dlouhodobé zkušenosti s údržbou open-source projektu: od odpozorovaných pouček po vtipné a ne až tak vtipné příklady e-mailů od uživatelů.

Fluttershy, yay! | Komentářů: 1
včera 00:22 | Nová verze

Byla vydána nová major verze 25.0 programovacího jazyka Erlang (Wikipedie) a související platformy OTP (Open Telecom Platform, Wikipedie). Přehled novinek v příspěvku na blogu.

Ladislav Hagara | Komentářů: 2
včera 00:11 | Nová verze

Deno (Wikipedie), běhové prostředí (runtime) pro JavaScript a TypeScript, bylo vydáno ve verzi 1.22. Přehled novinek v poznámkách k vydání.

Ladislav Hagara | Komentářů: 0
18.5. 18:22 | Nová verze

Společnost Red Hat oznámila vydání Red Hat Enterprise Linuxu (RHEL) 9.0. Vedle nových vlastností a oprav chyb přináší také aktualizaci ovladačů a předběžné ukázky budoucích technologií. Podrobnosti v poznámkách k vydání.

Ladislav Hagara | Komentářů: 6
18.5. 14:00 | Komunita

Lars Knoll oznámil, že po 25 letech v ekosystému Qt, z toho 22 let pracující pro různé společnosti vlastnící Qt, odchází ze společnosti The Qt Company do malého norského startupu.

Ladislav Hagara | Komentářů: 4
18.5. 13:22 | Zajímavý projekt

Na Kickstarteru běží kampaň na podporu mini ITX desky Turing Pi 2 Cluster Computer. Vložením 4 výpočetních modulů, podporovány jsou Raspberry Pi 4, Turing RK1 a Nvidia Jetson, lze získat 4uzlový cluster. Cena desky je 219 dolarů.

Ladislav Hagara | Komentářů: 2
18.5. 10:00 | Pozvánky

Spolek OpenAlt zve příznivce otevřených řešení a přístupu na 198. brněnský sraz, který proběhne v pátek 20. května tradičně od 18 hodin v Pivovarské restauraci Moravia.

Ladislav Hagara | Komentářů: 2
18.5. 07:00 | Zajímavý software

Byla vydána nová verze 0.25 herního enginu Fyrox, původně rg3d. Přehled novinek s kódy, náhledy i videi v příspěvku na blogu.

Ladislav Hagara | Komentářů: 0
18.5. 00:11 | Nová verze

Multiplatformní audio přehrávač Qmmp (Wikipedie) byl vydán ve verzi 2.1.0. Z novinek lze zmínit například podporu XDG Base Directory Specification.

Ladislav Hagara | Komentářů: 0
17.5. 23:22 | Komunita

Letošní konference LibreOffice proběhne 28. září až 1. října v Bolzanu. The Document Foundation hledá přednášející.

Zdeněk Crhonek | Komentářů: 0
Na sociálních sítích nebo jiných webových diskuzích vystupuji pod
 (59%)
 (16%)
 (25%)
Celkem 281 hlasů
 Komentářů: 23, poslední 18.5. 16:14
Rozcestník


Dotaz: Pomalé načítání seznamu balíků apt-get update

25.1.2016 22:51 dustin | skóre: 62 | blog: dustin
Pomalé načítání seznamu balíků apt-get update
Přečteno: 478×
Zdravím, mohu poprosit místní odborníky o radu?

Instaluji voyage (postavený nad debian jessie) na x86 tenký klient s CF kartou. Načítání seznamu balíků ("Reading package lists...") po apt-get update trvá desítky minut, 0% idle, 99% wait.

Strace ukazuje, že se neustále čte soubor s popisy balíků
root@voyage:~# strace -f -p 3784
Process 3784 attached

read(6, "22f982b5f6d46fa1494e235668\nSHA1:"..., 32351) = 32351
read(6, "n-md5: 9dbf17c52e563a4e5cfa9b080"..., 32459) = 32459
gettimeofday({1453757710, 676141}, NULL) = 0
write(1, "\rReading package lists... 11%\r", 30) = 30
read(6, "d-Size: 338\nMaintainer: Debian G"..., 32726) = 32726
read(6, " plugin\nHomepage: http://www.fus"..., 32370) = 32370
read(6, "on: web\nPriority: optional\nFilen"..., 32281) = 32281
read(6, "eforge\nDescription: FusionForge "..., 31739) = 31739
read(6, "ail\nSection: devel\nPriority: opt"..., 32002) = 32002
read(6, "a53bca3e8c47595645\nSHA256: f95ad"..., 32074) = 32074
read(6, "l\nFilename: pool/main/g/gadminto"..., 32224) = 32224
...
kde 
root@voyage:~# ls -l /proc/3784/fd

lrwx------ 1 root root 64 Jan 25 21:30 0 -> /dev/tty1
lrwx------ 1 root root 64 Jan 25 21:30 1 -> /dev/tty1
lrwx------ 1 root root 64 Jan 25 21:30 2 -> /dev/tty1
l-wx------ 1 root root 64 Jan 25 21:30 3 -> /dev/null
lrwx------ 1 root root 64 Jan 25 21:30 4 -> /var/lib/dpkg/lock
lrwx------ 1 root root 64 Jan 25 21:30 5 -> /var/cache/apt/pkgcache.bin.BN8s5j
lr-x------ 1 root root 64 Jan 25 21:30 6 -> /var/lib/apt/lists/ftp.cz.debian.org_debian_dists_jessie_main_binary-i386_Packages
Tedy fd 6 je /var/lib/apt/lists/ftp.cz.debian.org_debian_dists_jessie_main_binary-i386_Packages

Ten soubor má 30 MB, jeho překopírování na CD kartě trvá několik sekund. Přesto naskakují ty řádky ve strace (co řádek, to přečtených 30kB) velice velice pomalu, v jednotkách sekund.

OK, tak třeba má CF karta nějaký velice špatný přístup. Tedy jsem vyrobil tmpfs ramdisk, celý adresář /var/lib/apt/lists do něj nakopíroval a bindnul jsem jej na zpět:
root@voyage:~# mount
...
tmpfs on /mnt/ramdisk type tmpfs (rw,relatime,size=204800k)
tmpfs on /var/lib/apt/lists type tmpfs (rw,relatime,size=204800k)
Opravdu je to v ramdisku, kopírování tohoto souboru do /dev/null nyní jede 100MB/s
root@voyage:~# dd if=/var/lib/apt/lists/ftp.cz.debian.org_debian_dists_jessie_main_binary-i386_Packages of=/dev/null
65970+1 records in
65970+1 records out
33776741 bytes (34 MB) copied, 0.347766 s, 97.1 MB/s
Žádný zázrak, ale to PC má pomalé DDR1 paměti, 1GHz CPU, rychlost odpovídá.

Ještě jsem si ověřil, že to opravdu je na tmpfs
root@voyage:~# df $(readlink -f /proc/3784/fd/6)
Filesystem     1K-blocks  Used Available Use% Mounted on
tmpfs             204800 57808    146992  29% /var/lib/apt/lists
Přesto apt-get update (samozřejmě po jeho opětovném spuštění) jede pořád stále pomalu, wait je úplně stejný a při "Reading package lists" neustále svítí ledka disku, ač by to tam dle strace nemělo vůbec přistupovat (vypisuje se jen read(6), který je na ramdisku).

Kde by mohl být prosím zakopaný pes? Přijde mi, že apt-get (zřejmě nějaká knihovna) nějak divně pracuje s read syscallem. Tenhle problém lidi řeší už roky, nic kloudného/funkčního/smysluplného jsem nevygooglil.

Předem díky za nápady, co by to mohlo dělat.

Řešení dotazu:


Odpovědi

27.1.2016 09:27 dustin | skóre: 62 | blog: dustin
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Nikdo opravdu netuší?
pepe_ avatar 27.1.2016 09:58 pepe_ | skóre: 48
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update

Je to jen odhad , nebrzdí to spíše cpu ? Disk je potom spíše doprovodný projev ?   Já osobně deaktivuju vše co nepotřebuju (repositáře a i src) odmažu složky a znovu dam apt-get update a pro gui i ten xpain indexer pro hledání v synapticu.  Čím větší repa tím pomalejší databázování a tvorba závislostí.

pepe_ avatar 27.1.2016 10:01 pepe_ | skóre: 48
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update

sorry 0% idle sem si nevšimnul.

27.1.2016 10:03 dustin | skóre: 62 | blog: dustin
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Díky.

V topu má apt-get load 0.nic % CPU, vše visí v tom waiting. Je mi divné proč, když má ty soubory v ramdisku. Jakoby přistupoval pořád k těm na disku a ignoroval bindnutý ramdisk.
27.1.2016 10:28 wwww
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Neni mozny, ze by byl problem spis pri ukladani? Apt ma interni databazi a ta bude zrejme ulozena taky nekde na te karte. Nebo swap? Asi bych zkusil pomoci ps sledovat jestli neni nektery proces ve stavu D. Pripadne bych pomoci vmstat zjistoval, kde je aktualni zatez.

27.1.2016 10:38 dustin | skóre: 62 | blog: dustin
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Předpokládám, že to ukládání bych viděl ve strace. Tam není nic jiného než postupné pomalinké načítání 30kB bloků read(6...), kde fd=6 je ten seznam balíků.

Swap je vypnutý.

Na to vmstat se mrknu, díky za tip.

Bohužel nainstalovat další monitorovací balík (iotop apod.) je díky tomu zaseknutému apt-get nereálné. Zkusím image nakopírovat na klasický PATA disk (minipc má pata konektor), doinstalovat potřebné balíky a zjistit víc.
27.1.2016 19:37 Peter Golis | skóre: 63 | blog: Bežné záležitosti | Bratislava
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Niektoré redukcie na CF neumožňovali DMA prenosy a v PIO to bolo dosť pomalé. Tak isto sa systém spomaľoval ak človek nemal správnu veľkosť sektoru pre FS a zarovnané partície vzhľadom na HW. Nebude to tým?
27.1.2016 22:09 dustin | skóre: 62 | blog: dustin
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Jasně, u CF je to zásadní. Dělám na tom doinstalování balíků, aby to šlo změřit.

Nicméně ten seznam je v ramdisku (viz ten mount -o bind) a apt-get je přesto pomalý a ledka disku svítí...
Řešení 1× (AraxoN)
27.1.2016 23:44 dustin | skóre: 62 | blog: dustin
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Tak připojení klasického IDE disku nakonec pomohlo příčinu najít. Člověk se pořád učí - zápis přes mmap do souboru se ve strace objeví logicky jen v okamžiku zavolání toho mmapu. Takže výroba celé 40MB /var/cache/apt/cache.xxxx se mezi voláními read() čtoucími stažené databáze balíků nikde neprojevovala. Proto ta svítící kontrolka - na IDE disku to bylo jasně slyšet :-)

Takže řešením je mountnout tmpfs na vyčištěné /var/cache/apt a nyní trvá Reading package list i na flešce pár sekund a CPU je 100% zatížené apt-get. Je to jen cache, takže ztráta při vypnutí nijak nevadí.

Díky všem za pomoc.
28.1.2016 22:17 R
Rozbalit Rozbalit vše Re: Pomalé načítání seznamu balíků apt-get update
Dobre vediet, ze apt-get robi takyto bordel. Uz chapem, preco to je take pomale na slabom HW.

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.