abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 04:00 | Zajímavý článek

    Jiří Eischmann v příspěvku na svém blogu představuje typy, jak lépe chránit své soukromí na mobilním telefonu: "Asi dnes neexistuje způsob, jak se sledování vyhnout úplně. Minimálně ne způsob, který by byl kompatibilní s tím, jak lidé technologie běžně používají. Soukromí ovšem není binární věc, ale škála. Absolutního soukromí je dnes na Internetu dost dobře nedosažitelné, ale jen posun na škále blíže k němu se počítá. Čím méně dat se o vás posbírá, tím nepřesnější budou vaše profily a tím méně budou zneužitelné proti vám."

    Ladislav Hagara | Komentářů: 0
    dnes 00:22 | Nová verze

    Byla vydána nová stabilní verze 25.05 linuxové distribuce NixOS (Wikipedie). Její kódové označení je Warbler. Podrobný přehled novinek v poznámkách k vydání. O balíčky se v NixOS stará správce balíčků Nix.

    Ladislav Hagara | Komentářů: 0
    včera 18:11 | Nová verze

    Multiplatformní open source spouštěč her Heroic Games Launcher byl vydán v nové stabilní verzi 2.17.0 Franky (Mastodon, 𝕏). Přehled novinek na GitHubu. Instalovat lze také z Flathubu.

    Ladislav Hagara | Komentářů: 0
    včera 18:00 | Nová verze

    Organizace Apache Software Foundation (ASF) vydala verzi 26 integrovaného vývojového prostředí a vývojové platformy napsané v Javě NetBeans (Wikipedie). Přehled novinek na GitHubu. Instalovat lze také ze Snapcraftu a Flathubu.

    Ladislav Hagara | Komentářů: 0
    včera 14:55 | IT novinky

    Klávesnice IBM Enhanced Keyboard, známá také jako Model M, byla poprvé představena v roce 1985, tzn. před 40 lety, s počítači IBM 7531/7532 Industrial Computer a 3161/3163 ASCII Display Station. Výročí připomíná článek na zevrubném sběratelském webu Admiral Shark's Keyboards. Rozložení kláves IBM Enhanced Keyboard se stalo průmyslovým standardem.

    Fluttershy, yay! | Komentářů: 4
    včera 12:00 | Nová verze

    Vyšlo Pharo 13 s vylepšenou podporou HiDPI či objektovým Transcriptem. Pharo je programovací jazyk a vývojové prostředí s řadou pokročilých vlastností.

    Pavel Křivánek | Komentářů: 1
    včera 04:00 | IT novinky

    Java má dnes 30. narozeniny. Veřejnosti byla představena 23. května 1995.

    Ladislav Hagara | Komentářů: 7
    22.5. 21:55 | IT novinky

    1. července Mozilla vypne službu Fakespot pro detekci podvodných recenzí v internetových obchodech. Mozilla koupila Fakespot v květnu 2023.

    Ladislav Hagara | Komentářů: 1
    22.5. 21:33 | IT novinky

    8. července Mozilla vypne službu Pocket (Wikipedie) pro ukládání článků z webu na později. Do 8. října si uživatelé mohou vyexportovat data. Mozilla koupila Pocket v únoru 2017. Několik měsíců byl Pocket integrovanou součástí Firefoxu.

    Ladislav Hagara | Komentářů: 5
    22.5. 13:22 | Upozornění

    Turris OS má aktuálně problém s aktualizací související s ukončením podpory protokolu OCSP u certifikační autority Let's Encrypt.

    Ladislav Hagara | Komentářů: 4
    Jaký je váš oblíbený skriptovací jazyk?
     (57%)
     (27%)
     (7%)
     (3%)
     (0%)
     (0%)
     (5%)
    Celkem 91 hlasů
     Komentářů: 6, poslední 22.5. 14:43
    Rozcestník

    Zabili Kennyho bastardi!

    2.2.2014 22:14 | Přečteno: 1445× | Stunome | poslední úprava: 3.2.2014 12:55

    Aneb malé povídání o n-gramech a Rku. Honzíkovi slibuji, že to bude mít větší hodnotu a lepší formátovaní než minule!

    Analyzuji, tedy jsem

    O co nám dnes půjde? Na vstupu máme titulky (anglické) z kompletní první série seriálu Southpark a budeme zjišťovat, jestli se v textu neobjevují nějaké opakující se patterny. K analýze nám poslouží tradičně jazyk R a jeho knihovny textcat, tau a k zobrazení výsledků pak wordcloud.

    Zdrojový kód

    Jako první si někde obstaráme textové soubory s titulky, které budeme analyzovat. Ty umístíme do jednoho adresáře, v našem případě nazvaném "southpark", a s tím již pracujeme v R. Dále načteme potřebné knihovny a vytvoříme korpus, který bude obsahovat náš adresář.

    library(textcat)
    library(tau)
    library(wordcloud)
    
    korpus <- Corpus(DirSource("southpark", encoding="UTF-8"), readerControl = list(language = "en"))
    

    Dále si do proměnné ngramy uložíme výsledek funkce textcnt, které předáváme v parametru n řád n-gramu. Postupně jsem to provedl pro n=1, 2, 3 a 4.

    ngramy <- textcnt(korpus, method = "string",n=3)
    

    Abychom mohli výsledek zobrazit jako wordcloud, musíme jej převézt z formátu textcnt na dataframe. To řeší následující příkaz:

    df <- data.frame(word = names(ngramy), freq=unclass(ngramy))
    

    Zbytek již je opakování z minula:

    pal2 <- brewer.pal(8,"Dark2")
    png("wordcloud_ngram.png", width=1024,height=768)
    wordcloud(df$word,df$freq, scale=c(10,.2),min.freq=3,
    max.words=150, random.order=FALSE, rot.per=.15, colors=pal2)
    dev.off()
    

    Výsledek

    V prvním kroku nám vyjde úplně normální wordcloud, který je dosti nevypovídající - nebyla použita žádná stopwords, a tak převládají členy "a" a "the".

    V dalším kroku pro n=2 je výsledek již zajímavější. Mezi nejčastějšími spojeními dvou slov se nám již objeví "south park", ale pořád to hyzdí nicneříkající "have to", "are you" a podobné.

    U n=3 začíná být výsledek již opravdu zajímavý. Mezi nejčastějšími tříslovnými výrazy se objevují věci jako "oh my god", což je klasická Cartmanovská hláška, popřípadě "Terrance and Phillip" podle které Southpark zcela jistě identifikujeme a "Kathie Lee Gifford", která prostě musí zemřít!

    A máme tady zlatý hřeb večera - n=4! Zde dominuje především asi nejvíce WTF věta "hut hut hut hut", u které doteď nevím co znamená. Southpark se dá rozeznat podle "my god they killed" a "a big fat ass". Pro n-gram pro čtyři slova je problematická především malá délka vstupního textu, kvůli čemuž máme velmi málo výsledků a nejsou příliš reprezentativní.

    Bonus

    Jako bonus jsem spočítal a vykreslil do grafu vzdálenost slov "killed", "kenny" a "bastards" v jednotlivých epizodách. Výsledek zde:

    Závěr

    Měření dopadlo úspěšně a nebyl při něm nikdo zraněn. Na pár příkladech jsme si předvedli, jak analyzovat text z pohledu výskytů sousloví. Největší smysl dávají asi 3-gramy, u kterých jde relativně dobře poznat, jaký text byl analyzován. U kratších spojení narážíme na přílišnou obecnost, zde by bylo potřeba implementovat zakázaná slova. U delších je pak problém v krátkosti textu. Pokud byste si chtěli něco podobného zkusit a nechtěli si při tom složitě instalovat R a hledat, které RStudio je nejlepší, vyzkoušejte online Voyant-tools. O kostičku se hlaste v komentářích!

           

    Hodnocení: 88 %

            špatnédobré        

    Obrázky

    Zabili Kennyho bastardi!, obrázek 1 Zabili Kennyho bastardi!, obrázek 2 Zabili Kennyho bastardi!, obrázek 3 Zabili Kennyho bastardi!, obrázek 4 Zabili Kennyho bastardi!, obrázek 5

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    Komentáře

    Vložit další komentář

    Bedňa avatar 2.2.2014 23:01 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Čakal by som že vyhrá "Zabili Kennyho parchanti", ale ako vidím tak táto hláška sa drží dosť bokom, hoci je v každom diely. Si si istý že analýza prebehla korektne?
    KERNEL ULTRAS video channel >>>
    2.2.2014 23:41 mich | skóre: 16
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Pro n=3 máš: "oh my god", "killed kenny you" a "god they killed".
    Pro n=4: "oh my go they" a "my god they killed".
    Ta hláška je v originále: "Oh my god they killed Kenny. You bastards!"
    je to teď v módě, na žive o tom furt píšou
    Bedňa avatar 2.2.2014 23:58 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    To mi jasné, ale ten výskyt podľa grafov nedáva za pravdu tomu čo som si myslel.
    KERNEL ULTRAS video channel >>>
    Bedňa avatar 3.2.2014 00:10 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    A jasne, trojslovné súvetia, tak sorry :)
    KERNEL ULTRAS video channel >>>
    Fluttershy, yay! avatar 3.2.2014 11:02 Fluttershy, yay! | skóre: 93 | blog:
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Jenom ve starších sériích.

    Screw you guys, I'm going home. >_<
    🇵🇸Touch grass🇺🇦 ✊ ani boha, ani pána
    AsciiWolf avatar 2.2.2014 23:50 AsciiWolf | skóre: 41 | blog: Blog
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Já chci kostičku!
    3.2.2014 09:55 Honz
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Radši ani nechci vědět, co znamená u vás v klubu "analizuji"...
    pools avatar 3.2.2014 10:03 pools | skóre: 19 | blog: Svědek Damdogův | Opava/Praha
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    To znamená píšu to v noci a nečtu to po sobě ty jedna fašistická svině!
    Vivre libre ou mourir!
    3.2.2014 10:49 Asdasdasdad
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Daj si diazepamový čípok - najprv dole a potom do nosa!
    3.2.2014 11:33 Luboš L.
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Anál lížu jí?
    Agent avatar 3.2.2014 21:22 Agent | blog: Life_in_Pieces | HC city
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Tak si to přeslabikuj nahlas třeba celej článek a zkus to uhádnout z kontextu. Možná budeš překvapen.
    Nevěděl zpočátku, co si počít, jak žít, co dělat, ale brzy se vpravil do role samotáře.
    3.2.2014 11:47 vyskocil
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    A Kednedyho zabili Sionsiticki Bastardi
    grubber avatar 5.2.2014 09:44 grubber | skóre: 6 | blog: grubber | Břeclav / Brno
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Zde dominuje především asi nejvíce WTF věta "hut hut hut hut", u které doteď nevím co znamená.
    Že by More crap?
    pools avatar 5.2.2014 17:04 pools | skóre: 19 | blog: Svědek Damdogův | Opava/Praha
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Díky!
    Vivre libre ou mourir!

    Založit nové vláknoNahoru

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.