abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    včera 22:22 | Komunita

    Na čem pracují vývojáři webového prohlížeče Ladybird (GitHub)? Byl publikován přehled vývoje za duben (YouTube).

    Ladislav Hagara | Komentářů: 0
    včera 19:11 | IT novinky

    Provozovatel čínské sociální sítě TikTok dostal v Evropské unii pokutu 530 milionů eur (13,2 miliardy Kč) za nedostatky při ochraně osobních údajů. Ve svém oznámení to dnes uvedla irská Komise pro ochranu údajů (DPC), která jedná jménem EU. Zároveň TikToku nařídila, že pokud správu dat neuvede do šesti měsíců do souladu s požadavky, musí přestat posílat data o unijních uživatelích do Číny. TikTok uvedl, že se proti rozhodnutí odvolá.

    Ladislav Hagara | Komentářů: 2
    včera 11:22 | Zajímavý projekt

    Společnost JetBrains uvolnila Mellum, tj. svůj velký jazykový model (LLM) pro vývojáře, jako open source. Mellum podporuje programovací jazyky Java, Kotlin, Python, Go, PHP, C, C++, C#, JavaScript, TypeScript, CSS, HTML, Rust a Ruby.

    Ladislav Hagara | Komentářů: 1
    včera 09:11 | Bezpečnostní upozornění

    Vývojáři Kali Linuxu upozorňují na nový klíč pro podepisování balíčků. K původnímu klíči ztratili přístup.

    Ladislav Hagara | Komentářů: 0
    1.5. 20:00 | Komunita

    V březnu loňského roku přestal být Redis svobodný. Společnost Redis Labs jej přelicencovala z licence BSD na nesvobodné licence Redis Source Available License (RSALv2) a Server Side Public License (SSPLv1). Hned o pár dní později vznikly svobodné forky Redisu s názvy Valkey a Redict. Dnes bylo oznámeno, že Redis je opět svobodný. S nejnovější verzí 8 je k dispozici také pod licencí AGPLv3.

    Ladislav Hagara | Komentářů: 1
    1.5. 19:22 | IT novinky

    Oficiální ceny Raspberry Pi Compute Modulů 4 klesly o 5 dolarů (4 GB varianty), respektive o 10 dolarů (8 GB varianty).

    Ladislav Hagara | Komentářů: 0
    30.4. 22:33 | Nová verze

    Byla vydána beta verze openSUSE Leap 16. Ve výchozím nastavení s novým instalátorem Agama.

    Ladislav Hagara | Komentářů: 0
    30.4. 17:44 | Zajímavý článek

    Devadesátková hra Brány Skeldalu prošla portací a je dostupná na platformě Steam. Vyšel i parádní blog autora o portaci na moderní systémy a platformy včetně Linuxu.

    karkar | Komentářů: 0
    30.4. 12:11 | Humor

    Lidi dělají divné věci. Například spouští Linux v Excelu. Využít je emulátor RISC-V mini-rv32ima sestavený jako knihovna DLL, která je volaná z makra VBA (Visual Basic for Applications).

    Ladislav Hagara | Komentářů: 7
    30.4. 10:44 | IT novinky

    Revolut nabídne neomezený mobilní tarif za 12,50 eur (312 Kč). Aktuálně startuje ve Velké Británii a Německu.

    Ladislav Hagara | Komentářů: 36
    Jaký filesystém primárně používáte?
     (58%)
     (1%)
     (9%)
     (21%)
     (4%)
     (1%)
     (2%)
     (0%)
     (1%)
     (3%)
    Celkem 506 hlasů
     Komentářů: 19, poslední 30.4. 11:32
    Rozcestník

    Zabili Kennyho bastardi!

    2.2.2014 22:14 | Přečteno: 1434× | Stunome | poslední úprava: 3.2.2014 12:55

    Aneb malé povídání o n-gramech a Rku. Honzíkovi slibuji, že to bude mít větší hodnotu a lepší formátovaní než minule!

    Analyzuji, tedy jsem

    O co nám dnes půjde? Na vstupu máme titulky (anglické) z kompletní první série seriálu Southpark a budeme zjišťovat, jestli se v textu neobjevují nějaké opakující se patterny. K analýze nám poslouží tradičně jazyk R a jeho knihovny textcat, tau a k zobrazení výsledků pak wordcloud.

    Zdrojový kód

    Jako první si někde obstaráme textové soubory s titulky, které budeme analyzovat. Ty umístíme do jednoho adresáře, v našem případě nazvaném "southpark", a s tím již pracujeme v R. Dále načteme potřebné knihovny a vytvoříme korpus, který bude obsahovat náš adresář.

    library(textcat)
    library(tau)
    library(wordcloud)
    
    korpus <- Corpus(DirSource("southpark", encoding="UTF-8"), readerControl = list(language = "en"))
    

    Dále si do proměnné ngramy uložíme výsledek funkce textcnt, které předáváme v parametru n řád n-gramu. Postupně jsem to provedl pro n=1, 2, 3 a 4.

    ngramy <- textcnt(korpus, method = "string",n=3)
    

    Abychom mohli výsledek zobrazit jako wordcloud, musíme jej převézt z formátu textcnt na dataframe. To řeší následující příkaz:

    df <- data.frame(word = names(ngramy), freq=unclass(ngramy))
    

    Zbytek již je opakování z minula:

    pal2 <- brewer.pal(8,"Dark2")
    png("wordcloud_ngram.png", width=1024,height=768)
    wordcloud(df$word,df$freq, scale=c(10,.2),min.freq=3,
    max.words=150, random.order=FALSE, rot.per=.15, colors=pal2)
    dev.off()
    

    Výsledek

    V prvním kroku nám vyjde úplně normální wordcloud, který je dosti nevypovídající - nebyla použita žádná stopwords, a tak převládají členy "a" a "the".

    V dalším kroku pro n=2 je výsledek již zajímavější. Mezi nejčastějšími spojeními dvou slov se nám již objeví "south park", ale pořád to hyzdí nicneříkající "have to", "are you" a podobné.

    U n=3 začíná být výsledek již opravdu zajímavý. Mezi nejčastějšími tříslovnými výrazy se objevují věci jako "oh my god", což je klasická Cartmanovská hláška, popřípadě "Terrance and Phillip" podle které Southpark zcela jistě identifikujeme a "Kathie Lee Gifford", která prostě musí zemřít!

    A máme tady zlatý hřeb večera - n=4! Zde dominuje především asi nejvíce WTF věta "hut hut hut hut", u které doteď nevím co znamená. Southpark se dá rozeznat podle "my god they killed" a "a big fat ass". Pro n-gram pro čtyři slova je problematická především malá délka vstupního textu, kvůli čemuž máme velmi málo výsledků a nejsou příliš reprezentativní.

    Bonus

    Jako bonus jsem spočítal a vykreslil do grafu vzdálenost slov "killed", "kenny" a "bastards" v jednotlivých epizodách. Výsledek zde:

    Závěr

    Měření dopadlo úspěšně a nebyl při něm nikdo zraněn. Na pár příkladech jsme si předvedli, jak analyzovat text z pohledu výskytů sousloví. Největší smysl dávají asi 3-gramy, u kterých jde relativně dobře poznat, jaký text byl analyzován. U kratších spojení narážíme na přílišnou obecnost, zde by bylo potřeba implementovat zakázaná slova. U delších je pak problém v krátkosti textu. Pokud byste si chtěli něco podobného zkusit a nechtěli si při tom složitě instalovat R a hledat, které RStudio je nejlepší, vyzkoušejte online Voyant-tools. O kostičku se hlaste v komentářích!

           

    Hodnocení: 88 %

            špatnédobré        

    Obrázky

    Zabili Kennyho bastardi!, obrázek 1 Zabili Kennyho bastardi!, obrázek 2 Zabili Kennyho bastardi!, obrázek 3 Zabili Kennyho bastardi!, obrázek 4 Zabili Kennyho bastardi!, obrázek 5

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    Komentáře

    Vložit další komentář

    Bedňa avatar 2.2.2014 23:01 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Čakal by som že vyhrá "Zabili Kennyho parchanti", ale ako vidím tak táto hláška sa drží dosť bokom, hoci je v každom diely. Si si istý že analýza prebehla korektne?
    KERNEL ULTRAS video channel >>>
    2.2.2014 23:41 mich | skóre: 16
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Pro n=3 máš: "oh my god", "killed kenny you" a "god they killed".
    Pro n=4: "oh my go they" a "my god they killed".
    Ta hláška je v originále: "Oh my god they killed Kenny. You bastards!"
    je to teď v módě, na žive o tom furt píšou
    Bedňa avatar 2.2.2014 23:58 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    To mi jasné, ale ten výskyt podľa grafov nedáva za pravdu tomu čo som si myslel.
    KERNEL ULTRAS video channel >>>
    Bedňa avatar 3.2.2014 00:10 Bedňa | skóre: 34 | blog: Žumpa | Horňany
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    A jasne, trojslovné súvetia, tak sorry :)
    KERNEL ULTRAS video channel >>>
    Fluttershy, yay! avatar 3.2.2014 11:02 Fluttershy, yay! | skóre: 93 | blog:
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Jenom ve starších sériích.

    Screw you guys, I'm going home. >_<
    🇵🇸Touch grass🇺🇦 ✊ ani boha, ani pána
    AsciiWolf avatar 2.2.2014 23:50 AsciiWolf | skóre: 41 | blog: Blog
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Já chci kostičku!
    3.2.2014 09:55 Honz
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Radši ani nechci vědět, co znamená u vás v klubu "analizuji"...
    pools avatar 3.2.2014 10:03 pools | skóre: 19 | blog: Svědek Damdogův | Opava/Praha
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    To znamená píšu to v noci a nečtu to po sobě ty jedna fašistická svině!
    Vivre libre ou mourir!
    3.2.2014 10:49 Asdasdasdad
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Daj si diazepamový čípok - najprv dole a potom do nosa!
    3.2.2014 11:33 Luboš L.
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Anál lížu jí?
    Agent avatar 3.2.2014 21:22 Agent | blog: Life_in_Pieces | HC city
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Tak si to přeslabikuj nahlas třeba celej článek a zkus to uhádnout z kontextu. Možná budeš překvapen.
    Nevěděl zpočátku, co si počít, jak žít, co dělat, ale brzy se vpravil do role samotáře.
    3.2.2014 11:47 vyskocil
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    A Kednedyho zabili Sionsiticki Bastardi
    grubber avatar 5.2.2014 09:44 grubber | skóre: 6 | blog: grubber | Břeclav / Brno
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Zde dominuje především asi nejvíce WTF věta "hut hut hut hut", u které doteď nevím co znamená.
    Že by More crap?
    pools avatar 5.2.2014 17:04 pools | skóre: 19 | blog: Svědek Damdogův | Opava/Praha
    Rozbalit Rozbalit vše Re: Zabili Kennyho bastardi!
    Díky!
    Vivre libre ou mourir!

    Založit nové vláknoNahoru

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.