abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 20:40 | Zajímavý článek

Lukáš Růžička v článku S Hydrogenem za lepší rytmus aneb bubeníkem snadno a rychle na MojeFedora.cz představuje automatického bubeníka s názvem Hydrogen (Wikipedie): Hydrogen je velmi vydařený program, který rozhodně nesmí chybět ve výbavě žádného linuxového muzikanta. Umožňuje nejen vytváření jednoduchých bicích doprovodů, ale také sofistikované programování bicích a perkusí, jehož výsledek se naprosto vyrovná drahým

… více »
Ladislav Hagara | Komentářů: 0
včera 13:55 | Zajímavý projekt

UPSat (Twitter) je první open source nanodružice (CubeSat). Jedná se o společný projekt nadace Libre Space Foundation a University of Patras. Repozitáře projektu jsou k dispozici na GitHubu. Pod Libre Space Foundation patří také projekt SatNOGS (zprávička), projekt globální sítě open source pozemních satelitních stanic, vítězný projekt soutěže The Hackaday Prize 2014. UPSat je součástí mise QB50 (Twitter). ID UPSatu je GR02. GPS přijímač na UPSatu je od české společnosti SkyFox Labs. Součástí mise QB50 je i česká nanodružice VZLUSAT-1 s ID CZ02.

Ladislav Hagara | Komentářů: 3
21.4. 15:00 | Komunita

V diskusním listu Thunderbird planning vývojáři poštovního klienta Thunderbird řeší, zda by nebylo možné budoucí Thunderbird postavit nad webovými technologiemi, tj. nad Electronem, stejně jako například Nylas Mail. Gecko, nad kterým je Thunderbird postaven, se má hodně změnit. V plánu je odstranění vlastností, které Firefox už nepotřebuje, ale Thunderbird je na nich závislý [Hacker News, reddit].

Ladislav Hagara | Komentářů: 83
21.4. 10:22 | Bezpečnostní upozornění

Společnost Oracle vydala čtvrtletní bezpečnostní aktualizaci svých softwarových produktů (CPU, Critical Patch Update). Opraveno bylo celkově 299 bezpečnostních chyb. V Oracle Java SE je například opraveno 8 bezpečnostních chyb. Vzdáleně zneužitelných bez autentizace je 7 z nich. V Oracle MySQL je opraveno 39 bezpečnostních chyb. Vzdáleně zneužitelných bez autentizace je 11 z nich.

Ladislav Hagara | Komentářů: 6
21.4. 10:00 | Pozvánky

V úterý 25. dubna proběhne další Prague Containers Meetup. Přijďte se nechat inspirovat jak zlepšit build/delivery pipeline vašich kontejnerových aplikací.

little-drunk-jesus | Komentářů: 2
20.4. 21:33 | Komunita

Na Launchpadu se objevilo kódové jméno následující verze Ubuntu. Ubuntu 17.10 bude Artful Aardvark (mazaný hrabáč) [OMG! Ubuntu!].

Ladislav Hagara | Komentářů: 10
20.4. 20:11 | Zajímavý software

MojeFedora.cz informuje, že společnost Nylas oznámila vydání verze 2.0 poštovního klienta Nylas Mail (původně Nylas N1), která již plně podporuje Linux. Obchodní model společnosti je tzv. open core. Samotný klient je open source, ale uživatel si musí připlatit za některé pokročilé funkce. V základu se lze připojit k GMailu nebo libovolnému účtu přes IMAP. Podpora Exchange je pouze v placené verzi. Klient je napsaný nad Electronem.

Ladislav Hagara | Komentářů: 12
20.4. 15:55 | Zajímavý článek

České centrum pro investigativní žurnalistiku (ČCIŽ) publikovalo na svých stránkách článek s názvem Je česká státní správa „rukojmím Microsoftu“?. Drtivá většina české veřejné správy je závislá na výrobcích softwarového gigantu Microsoft – a nijak zvlášť jí to nevadí.

Ladislav Hagara | Komentářů: 18
20.4. 02:48 | Nová verze

Google Chrome 58 byl prohlášen za stabilní. Nejnovější stabilní verze 58.0.3029.81 tohoto webového prohlížeče přináší řadu oprav a vylepšení (YouTube). Opraveno bylo 29 bezpečnostních chyb. Mezi nimi i chyba umožňující phishing s unicode doménami.

Ladislav Hagara | Komentářů: 0
19.4. 22:44 | Nová verze

Po šesti týdnech od vydání verze 52.0 byla vydána verze 53.0 webového prohlížeče Mozilla Firefox. Z novinek lze upozornit například na nové kompaktní vzhledy – tmavý z Firefoxu Developer Edition a jeho světlá varianta. Na Linuxu byla ukončena podpora procesorů starších než Pentium 4 a AMD Opteron. Podrobné informace v poznámkách k vydání a na stránce věnované vývojářům. Řešeny jsou také bezpečnostní chyby.

Ladislav Hagara | Komentářů: 11
Chystáte se pořídit CPU AMD Ryzen?
 (4%)
 (35%)
 (0%)
 (7%)
 (45%)
 (10%)
Celkem 273 hlasů
 Komentářů: 31, poslední 20.4. 21:26
    Rozcestník

    Dotaz: Algoritmus seřazení dat z různých souborů

    6.11.2010 20:59 vhaji
    Algoritmus seřazení dat z různých souborů
    Přečteno: 498×
    Dobrý den.

    Marně se pokouším vymyslet co nejoptimálnější algoritmus řazení dat ze dvou neznámých zdrojů. Dejme tomu že mám 2 soubory či obecně zdroje dat, každý obsahuje 2 sloupce - jméno a číslo, soubory obsahují hrozně moc dat a já je potřebuju seřadit podle obou souborů a limitovat zobrazení dat. Zde na fórech jsem našel algoritmus řazení: seřadit n řádek z 1. souboru, pak n řádek s 2. a pak seřadit výsledek n+n a omezit zase na n - jenže to nebude fungovat. Z popisu asi není jasné o co mi jde - zde je příklad (např. 2 spojené soubory podle klíče username):
    "user1";"1";"7"
    "user2";"2";"6"
    "user3";"3";"5"
    "user4";"3";"4"
    "user5";"4";"3"
    "user6";"4";"2"
    "user7";"4";"1"
    
    Pokud chci 3 záznamy řazené podle 2. sloupce a potom 3. sloupce, tak to musí vrátit user1, user2, user4. Nepřišel jsem na optimální algoritmus jak dostat 3 záznamy aniž bych musel přečíst celý 1. soubor, celý 2. soubor a pak to limitovat až ve výsledku, což je ale velice datově a výpočetně náročné pro větší množství dat. Určitě už někdo podobný problém řešil. Prosím o pomoc/popis algoritmu pro toto řazení.

    Odpovědi

    6.11.2010 21:25 deadmail
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Ak tie dva subory su utriedene, tak naozaj staci n prvych riadkov z prveho suboru a n riadkov z druheho suboru utriedit a vybrat z nich prvych n.

    Ak nie su, tak sa musia utriedit - bud kazdy zvlast, alebo spojene.

    Ak treba viackrat z tych istych dat rozne n, tak raz utriedit oba subory a ulozit. Potom pouzit prvy sposob.
    6.11.2010 21:27 kuka
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Nejak to nechapu - pokud ty soubory nejsou setridene, musi se vzdy cele projit, to se mi zda zrejme na prvni pohled.
    6.11.2010 21:36 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Zdroje dat (zde soubory) jsou setříděné. Nicméně výběr n a n řádků a jejich následné omezení fungovat nebude. Viz. příklad dat:
    sloupec1+sloupec2 = soubor1, řazený vzestupně podle 2. sloupce
    sloupec1+sloupec3 = soubor2, řazený vzestupně podle 3. sloupce
    
    
    "user1";"1";"7"
    "user2";"2";"6"
    "user3";"3";"5"
    "user4";"3";"4"
    "user5";"4";"3"
    "user6";"4";"2"
    "user7";"4";"1"
    
    
    1. z prvního souboru vyberu první 3 =>
     user1,
     user2,
     user3
    
    2. z druhého souboru vyberu první 3 =>
     user7,
     user6,
     user5
    
    3. spojím a zobrazím všechna data
     "user1";"1";"7"
     "user2";"2";"6"
     "user3";"3";"5"
     "user7";"4";"1"
     "user6";"4";"2"
     "user5";"4";"3"
    
    4. omezím na první 3
     => user1, user2, user3 = CHYBA
    
    Neboť primárně řadím podle 2. sloupce, tak user3 a user4 jsou nerozhodně (oba = 3), pomocí druhého sloupce ale zjistím, že user4 je před user3, což se ale při tomto algoritmu neprojeví.
    wamba avatar 7.11.2010 13:53 wamba | skóre: 37 | blog: wamba
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    co vybrat jich n plus všechny, co mají stejný druhý sloupec jak n-tý
    This would have been so hard to fix when you don't know that there is in fact an easy fix.
    rADOn avatar 8.11.2010 16:37 rADOn | skóre: 44 | blog: bloK | Praha
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Pises ze zdroje dat jsou setridene, nicmene uvedeny priklad setrideny neni (resp. je setrideny podle jineho klice)

    "2^24 comments ought to be enough for anyone" -- CmdrTaco
    7.11.2010 00:00 zulu
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    což je ale velice datově a výpočetně náročné pro větší množství dat
    Proto je dobré mít ta data v dobře zpracovatelném formátu a udržovat další informace pro jejich rychlé prohledávání a propojování. A tak vznikly databáze.
    7.11.2010 01:24 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Ta data nakonec budou uložena v nějakých databázích, ale pokaždé v jiných a na jiných místech ČR :-) Nicméně nakonec asi budu řadit tímto algoritmem:
    1. vyberu n řádků ze zdroje 1
     .. - zjistím že m z n řádků nemají jednoznačné pořadí, tak prohledám zdroj 1 znovu a vyberu z n řádky které nemají jednoznačné pořadí + řádky s tímto "indexem", ale za limitem dotazu a postoupím dalšímu zdroji
    2. to samé
    .......
    
    7.11.2010 10:54 dustin | skóre: 61 | blog: dustin
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Možná by bylo rychlejší je rovnou uložit třeba do mysql, i kdyby to mělo být jen dočasné :)

    K překlopení by měl stačit jednoduchý skript.
    7.11.2010 14:32 Goheeca
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    opravdu ten algoritmus funguje mne se nezda (nebo jsem ho treba nepochopil) nebot:
    sloupec1+sloupec2 = soubor1, řazený vzestupně podle 2. sloupce
    sloupec1+sloupec3 = soubor2, řazený vzestupně podle 3. sloupce
    tzn. ze vuci sobe nejsou serazeny vubec (teda ano 1. sloupcem) -> to musis imho projit vsechny zaznamy ...
    7.11.2010 12:45 Goheeca
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    to se resi takto: mam ukazatel na radek pro kazdy soubor. nastavim je na zacatek souboru. chci n zaznamu tak nkrat provedu nasledujici: porovnam navzajem vsechny radky a vyberu ten nejmensi (vzestupne razena data v souborech) a v patricnem souboru posunu ukazatel ...
    7.11.2010 16:55 Martin Doucha | skóre: 23 | blog: Yet another blog
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    1) sort obou souborů podle společného sloupce

    2) join na společný sloupec (join vyžaduje setříděné soubory)

    3) sort na příslušné sloupce spojeného souboru

    4) vypsat správný počet řádek

    Podrobnosti v manuálových stránkách příkazů sort, join a head. Řešení je asymptoticky optimální.
    7.11.2010 17:23 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Jo to by šlo kdybych měl soubory a ty byly na stejném stroji. Jenže zdrojem dat může být nejenom soubor. Většinou se bude jednat o různé typy relačních databází. A kdybych to měl spojovat tímto mechanismem tak se může stát že při pokusu o vypsání 5 řádků budu muset spojit několik milionů záznamů a v nich filtrovat už programem, což je mírně řečeno velice neoptimální. Ten algoritmus na který jsem nakonec přišel by měl fungovat. Příklad se "syntaxí" mysql:
    jmeno; cislo; cislo2
    -----------------------
    "user1";"1";"7"
    "user2";"2";"6"
    "user3";"3";"5"
    "user4";"3";"4"
    "user5";"4";"3"
    "user6";"4";"2"
    "user7";"4";"1"
    
    order by cislo, cislo2 limit 3 = user1, user2, user4
    
    
    teď ten algoritmus:
    - select cislo ... order by cislo limit 3
    1 2 3
    - select jmeno ... where cislo in (1,2,3) => user1, user2, user3, user4
    - pak zjistim ze sporne cislo je u user3 a user4
    - select jmeno ... where jmeno in ("user3", "user4") order by cislo2 limit3 => user4, user3 => prerovnam puvodni vyber "user1, user2, user3, user4" na "user1, user2, user4, user3" a omezim na 3 => "user1, user2, user4"
    
    Zásadní vada na kráse je ale ta že tento algoritmus je docela složitý.
    8.11.2010 13:54 deadmail
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Většinou se bude jednat o různé typy relačních databází.
    Tak pri dotaze z kazdej databazy treba prvych n riadkov utriedenych podla vyslednych ziadanych stlpcov. A nasledne utriedit vsetky takto ziskane riadky (pri 3 databazach teda 3*n riadkov).

    To je algoritmus uvedeny uz v otazke (a takisto posledny sposob uvedeny v 1. komentari). Ale to utriedenie musi byt vsade rovnake ako vysledne ziadane.
    8.11.2010 14:07 deadmail
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Aha, kazda databaza je iny stlpec ... teda sa neda dopredu utriedit ...

    tak potom v databaze s prvym stlpcom vybrat prvych n riadkov a k nim najst vsetky odpovedajuce v dalsich databazach (pokial vzdy existuje prisluchajuci riadok, resp. sa pouzije null, t.j. left join). Tie potom utriedit. Tak to bude optimalne z pohladu prenosu co najmenej dat.

    To je tebou uvedeny algoritmus.
    8.11.2010 15:48 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    A jak jsem zjistil tak tento můj algoritmus je rovněž velice neefektivní. Praktický příklad: mám dvě databáze/tabulky. V první jsou sloupce jméno,pohlaví a v druhé jméno,výška. Každá obsahuje několik desítek tisíc řádků a já je chci seřadit podle pohlaví a pak podle výšky. Zde je kámen úrazu protože i když chci třeba 5 záznamů, tak musím z první tabulky vzít několik tisíc řádků abych je postoupil k té druhé tabulce a jakékoliv umělé omezování že max. počet postupujících záznamů je m by velice razantně změnilo výsledné hodnoty. Začínám být přesvědčený, že žádný algoritmus se asi na tohle vymyslet nedá.
    8.11.2010 17:24 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Nakonec to asi budu muset vzít z druhé strany: řadit jen podle jednoho sloupce/klíče a naprogramovat nějaké pokročilé možnosti filtrování dat.
    8.11.2010 21:07 vhaji
    Rozbalit Rozbalit vše Re: Algoritmus seřazení dat z různých souborů
    Tak to je ještě horší než to řazení. Nejhorší je to, že aplikace má za úkol pouze data číst a ta data jsou velice často měněna, takže možnost lokálního cache odpadá.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.