abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 04:22 | Nová verze

    Knihovna FFmpeg byla vydána ve verzi 8.0 „Huffman“. Přibyla mj. podpora hardwarově akcelerovaného kódování s využitím API Vulcan, viz seznam změn.

    Fluttershy, yay! | Komentářů: 0
    včera 17:44 | IT novinky

    Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) vydal Zprávu o stavu kybernetické bezpečnosti ČR za rok 2024 (pdf). V loňském roce NÚKIB evidoval dosud nejvíce kybernetických bezpečnostních incidentů s celkovým počtem 268. Oproti roku 2023 se však jedná pouze o drobný nárůst a závažnost dopadů evidovaných incidentů klesá již třetím rokem v řadě. V minulém roce NÚKIB evidoval pouze jeden velmi významný incident a významných incidentů bylo zaznamenáno 18, což oproti roku 2023 představuje pokles o více než polovinu.

    Ladislav Hagara | Komentářů: 1
    včera 13:55 | Komunita

    Byl publikován aktuální přehled vývoje renderovacího jádra webového prohlížeče Servo (Wikipedie). Servo mimo jiné nově zvládne animované obrázky APNG a WebP.

    Ladislav Hagara | Komentářů: 0
    včera 13:11 | IT novinky

    Na chytré telefony a počítačové tablety v Rusku bude od začátku příštího měsíce povinné předinstalovávat státem podporovanou komunikační aplikaci MAX, která konkuruje aplikaci WhatsApp americké společnosti Meta Platforms. Oznámila to dnes ruská vláda. Ta by podle kritiků mohla aplikaci MAX používat ke sledování uživatelů. Ruská státní média obvinění ze špehování pomocí aplikace MAX popírají. Tvrdí, že MAX má méně oprávnění k přístupu k údajům o uživatelích než konkurenční aplikace WhatsApp a Telegram.

    Ladislav Hagara | Komentářů: 25
    včera 04:22 | IT novinky

    Společnost PINE64 stojící za telefony PinePhone nebo notebooky Pinebook publikovala na svém blogu srpnový souhrn novinek. Kvůli nedostatečnému zájmu byla ukončena výroba telefonů PinePhone Pro.

    Ladislav Hagara | Komentářů: 1
    21.8. 22:22 | Nová verze

    Po pěti měsících vývoje byla vydána nová verze 0.15.1 programovacího jazyka Zig (GitHub, Wikipedie). Verze 0.15.0 byla přeskočena. Přispělo 162 vývojářů. Přehled novinek v poznámkách k vydání.

    Ladislav Hagara | Komentářů: 0
    21.8. 21:55 | Komunita

    Před sedmi lety společnost Valve představila fork projektu Wine s názvem Proton umožňující v Linuxu přímo ze Steamu hrát počítačové hry do té doby běžící pouze ve Windows. Aktuální přehled podporovaných her na stránkách ProtonDB

    Ladislav Hagara | Komentářů: 0
    21.8. 14:55 | IT novinky

    Společnost DuckDuckGo rozšířila svůj AI chat Duck.ai o GPT-5 mini (𝕏). Duck.ai umožňuje anonymní přístup bez vytváření účtů k několika modelům umělé inteligence. Aktuálně k GPT-4o mini, GPT-5 mini, Llama 4 Scout, Claude Haiku 3.5 a Mistral Small 3.

    Ladislav Hagara | Komentářů: 6
    21.8. 12:44 | Bezpečnostní upozornění

    Marek Tóth v příspěvku DOM-based Extension Clickjacking: Data ve správcích hesel v ohrožení na svém blogu popsal novou clickjacking techniku s několika variantami útoků a otestoval ji proti 11 správcům hesel. Výsledkem bylo nalezení několika 0-day zranitelností, které mohly ovlivnit uložená data desítek milionů uživatelů. Jedno kliknutí kdekoliv na webové stránce kontrolované útočníkem umožňovalo ukrást uživatelská data ze

    … více »
    Ladislav Hagara | Komentářů: 1
    20.8. 21:11 | IT novinky

    Na dnešní akci Made by Google 2025 (YouTube) byly představeny telefony Pixel 10 s novým čipem Google Tensor G5 a novými AI funkcemi, hodinky Pixel Watch 4 a sluchátka Pixel Buds 2a.

    Ladislav Hagara | Komentářů: 25
    Pro otevření více webových stránek ve webovém prohlížečí používám
     (76%)
     (10%)
     (4%)
     (4%)
     (6%)
     (0%)
    Celkem 51 hlasů
     Komentářů: 6, poslední 21.8. 13:35
    Rozcestník

    Filtrujme čtivé texty z Projektu Gutenberg 7

    18. 7. 2016 | Karel Kulhavý | Návody | 10484×

    V předchozím dílu jsme viděli, že vypnutí UTF-8 v příkazech mělo za následek až sedminásobné zrychlení. Využijeme to pro zrychlené řazení souborů a inspekci, co v nich je.

    Řešení tohoto přídavného, v nedávné minulosti vzniklého problému není úplně jednoduché: musíme přemýšlet, před které příkazy LC_ALL=C napsat, protože když to napíšeme příliš často, UTF-8 se nezpracuje tak, jak se zpracovat má. Nestačí to psát jen občas – v modelovém příkladě použití pouze jednoho LC_ALL=C vedlo pouze ke trojnásobnému zrychlení. Navíc – čekali byste, že to výrazně lépe pomůže u druhého sortu, který zpracovával menší počet řádků než sort první?

    HWN
    Na sborník řečí všech amerických prezidentů narazíme dále v tomto díle.
    Zdroj: C-SPAN

    Vyrobíme si tedy statistiku rozložení délek souboru ještě jednou, úplně stejnou, ale zato mnohem rychleji. Vpravo bude délka souboru, vlevo jak často se vyskytuje. Zobrazíme 20 nejčastěji se vyskytujících délek, seřazených sestupně podle toho, jak často se vyskytují. Závorky kolem exportu zamezí, aby nám nastavení LC_ALL=C v shellu zůstalo permanentně, až do doby odhlášení se ze shellu.

    $ ( export LC_ALL=C; cut -f 7 -d ' ' clean2.txt  |sort -n |uniq -c | sort -nrk1 | head -n 20)
         23 11009
         15 12911
         13 21607
         12 12888
         12 12867
          9 1405
          9 12927
          9 12900
          9 12897
          9 12887
          8 21586
          8 12891
          8 12858
          7 12912
          7 12879
          7 12864
          6 59
          6 12906
          6 12905
          6 12890

    Jak je možné, že délka 11009 se vyskytuje tak často – 23krát – a jiná délka 12890, která se liší o pouhých 17 procent, se vyskytuje jen šestkrát? Záhadu se nám podaří vyřešit, aniž bychom se podívali do jediného souboru – použijeme pouze informace z výpisu adresářů:

    $ cut -d ' ' -f 7,11- clean2.txt | LC_ALL=C grep "^11009 "
    11009 pg/1/2/7/2/12721/readme-license.txt
    11009 pg/1/2/7/2/12724/readme-license.txt
    11009 pg/1/2/7/2/12723/readme-license.txt
    11009 pg/1/2/7/2/12720/readme-license.txt
    11009 pg/1/2/7/2/12722/readme-license.txt
    [...]
    11009 pg/1/2/7/1/12719/readme-license.txt
    11009 pg/1/2/7/1/12715/readme-license.txt
    11009 pg/1/2/7/1/12713/readme-license.txt
    11009 pg/1/2/7/1/12711/readme-license.txt

    Jsou to všechno zřejmě identické kopie nějakého licenčního textu! A co ostatní mysteriózní čísla? Délka 12911 je stejného druhu jako délka 11009. 21607 je ale už něco jiného: je to jakýsi prázdný skutečný text, který nám říká, že příslušné dílo sestává zcela z obrázků, a proto se máme podívat na HTML verzi, kde jsou tyto obrázky dostupné. To vysvětluje, proč jsou všechny tyto soubory tohoto druhu stejně dlouhé. Mysteriózní číslo 12888 přísluší k jakýmsi audio knihám nahraným jako MP3. Ostatní mysteriózní často se opakující délky si můžete prozkoumat sami, co se pod nimi skrývá.

    Možná vyrobíme užitečnější statistiku, když budeme řadit podle délky souboru místo podle toho, jak často se délka souboru opakuje. Stačí změnit parametry druhého sortu:

    $ ( export LC_ALL=C; cut -f 7 -d ' ' clean2.txt  |sort -n |uniq -c | sort -nk2 | head -n 20)
          2 52
          6 59
          1 68
          2 76
          1 78
          5 80
          1 83
          1 95
          1 130
          1 145
          1 158
          1 185
          1 203
          1 274
          1 301
          1 312
          1 331
          1 336
          1 344
          1 345

    HWN
    Na Ságu rodu Forsytů, za kterou padla Nobelova cena, dojde také.
    Zdroj: Nakladatelství Omega

    Co obsahují nejdelší soubory na Projektu Gutenberg?

    Dozvěděli jsme se v zásadě to, že se nic nedozvíme: každý soubor má svou vlastní délku, která se neopakuje. Co tedy seřadit soubory od těch největších? Co za zábavné čtivo v nich bude?

    $ cut -d ' ' -f 7,11- clean2.txt |LC_ALL=C sort -nrk1|head -n 10
    
    9877862 pg/5/0/5/5050/old/suall11.txt
    9873495 pg/5/0/5/5050/old/suall10.txt
    9840067 pg/4/9/0/4900/old/jm00v10.txt
    9790441 pg/4/9/0/4900/4900.txt
    9612317 pg/5/4/0/5400/old/wc63w10.txt
    9540257 pg/5/4/0/5400/5400.txt
    9472285 pg/3/2/5/3254/old/glent12.txt
    9459826 pg/3/2/5/3254/3254.txt
    9206456 pg/2/7/3/4/27348/27348.txt
    9201354 pg/2/7/5/0/27509/27509.txt

    Mínus za jedenáctkou je pro případ, že by jméno souboru obsahovalo mezeru, což na Unixech může. cut by to interpretoval jako další sloupec, takto se ho dozvíme celé. Takových minových polí, kde člověk musí myslet na různé neobvyklé výjimky, je v Unixu bohužel mnoho. Je to dáno použitím in-band signallingu, tedy speciálních znaků, jako jsou mezery, uvozovky, lomítka apod., se speciálním významem. Pokud programátor nemá v daný moment dostatečnou fantazii a neuvědomí si, co všechny by mohlo způsobit problém a na co všechno musí myslet, vyprodukuje kód který bude fungovat, projde testy, ale selže v okamžiku kdy ho uživatel nakrmí souborem, jehož jméno obsahuje mezeru.

    Myslíte, že se tento problém dá řešit testováním? Ale jestliže si programátor neuvědomí, že by mezera mohla způsobit problém, proč by si to měl uvědomit návrhář testu a zakomponovat ji do testu? Je návrhář testu nějaký jiný živočišný druh než programátor, který je na rozdíl od člověka s omezenou kapacitou předvídat neobvyklé problémy vševědoucí a má nekonečně velkou fantazii?

    Podle mě se takový problém dá spolehlivě řešit použitím out-of-band signallingu, tedy např. binárních hlaviček s délkami při předávání příkazů. To by ale byl takový zásah do koncepce Unixu, že mi nepřijde realistický. Jako poučné varování to ale mohou vzít čtenáři, kteří navrhují nový software nebo datový formát, aby problému tohoto druhu předešli a zvážili out-of-band signaling, když to ještě jde.

    Podíváme se do souborů a abychom jejich jména nemuseli opisovat, z výstupu příkazu vystřihneme druhý sloupec a předáme ho jako argument vi na příkazovou řádku. V souborech se pak budeme moci pohybovat pomocí :n (následující soubor) a :N (předchozí soubor).

    vi -R $(cut -d ' ' -f 7,11- clean2.txt |LC_ALL=C sort -nrk1|cut -d ' ' -f 2- | head -n 9)

    Přepínač -R uvede vi do režimu pro čtení, takže si literární díla omylem nezměníme. Co tyto největší soubory tedy obsahují?

    • Complete State of the Union Addresses, from 1790 to the Present – řeči amerických prezidentů.
    • Totéž pro jistotu znovu.
    • Historie Nizozemí od Johna Lohtropa Motleyho z roku 1855.
    • Zase jednou to samé.
    • Sborník děl Winstona Churchilla (lehká beletrie se nám začíná hromadit, že? ;-) ).
    • Zase Churchill.
    • Kompletní díla Johna Galsworthyho - věci jako Sága rodu Forsytů – zde se už vyskytuje dost přímé řeči.
    • Zase jednou Galsworthy.
    • Edice World CIA Factbook z roku 2007. Hodnotný sborník informací, jako čtivo na pláž ale posloužit nemusí.

    HWN
    Aktuální obálka World CIA Factbook

    Ukončíme zkoumání délek souborů a v příštím dílu přistoupíme k jejich obsahu.

           

    Hodnocení: 60 %

            špatnédobré        

    Nástroje: Tisk bez diskuse

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    Komentáře

    Vložit další komentář

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.