abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 21:33 | Nová verze

Byla vydána nová major verze 7.10 svobodného systému pro řízení vztahů se zákazníky (CRM) s názvem SuiteCRM (Wikipedie). Jedná se o fork systému SugarCRM (Wikipedie). Zdrojové kódy SuiteCRM jsou k dispozici na GitHubu pod licencí AGPL.

Ladislav Hagara | Komentářů: 0
včera 16:44 | Nová verze

Byla vydána nová verze 0.30 display serveru Mir (Wikipedie) a nová verze 2.31 nástrojů snapd pro práci s balíčky ve formátu snap (Wikipedie). Z novinek Miru vývojáři zdůrazňují vylepšenou podporu Waylandu nebo možnost sestavení a spouštění Miru ve Fedoře. Nová verze snapd umí Mir spouštět jako snap.

Ladislav Hagara | Komentářů: 0
včera 14:00 | Komunita

Na Indiegogo běží kampaň na podporu Sway Hackathonu, tj. pracovního setkání klíčových vývojářů s i3 kompatibilního dlaždicového (tiling) správce oken pro Wayland Sway. Cílová částka 1 500 dolarů byla vybrána již za 9 hodin. Nový cíl 2 000 dolarů byl dosažen záhy. Vývojáři přemýšlejí nad dalšími cíli.

Ladislav Hagara | Komentářů: 1
včera 11:11 | Nasazení Linuxu

Před dvěma týdny se skupina fail0verflow (Blog, Twitter, GitHub) pochlubila, že se jim podařilo dostat Linux na herní konzoli Nintendo Switch. O víkendu bylo Twitteru zveřejněno další video. Povedlo se jim na Nintendo Switch rozchodit KDE Plasmu [reddit].

Ladislav Hagara | Komentářů: 3
včera 05:55 | Komunita

Byla vydána vývojová verze 3.2 softwaru Wine (Wikipedie), tj. softwaru, který vytváří aplikační rozhraní umožňující chod aplikací pro Microsoft Windows také pod GNU/Linuxem. Z novinek lze zdůraznit například podporu HID gamepadů. Aktuální stabilní verze Wine je 3.0, viz verzování. Nejistá je budoucnost testovací větve Wine Staging s řadou experimentálních vlastností. Současní vývojáři na ni již nemají čas. Alexandre Julliard, vedoucí projektu Wine, otevřel v diskusním listu wine-devel diskusi o její budoucnosti.

Ladislav Hagara | Komentářů: 2
18.2. 16:55 | Komunita

Do 22. března se lze přihlásit do dalšího kola programu Outreachy (Wikipedie), jehož cílem je přitáhnout do světa svobodného a otevřeného softwaru lidi ze skupin, jež jsou ve světě svobodného a otevřeného softwaru málo zastoupeny. Za 3 měsíce práce, od 14. května do 14. srpna 2018, v participujících organizacích lze vydělat 5 500 USD.

Ladislav Hagara | Komentářů: 46
17.2. 15:44 | Komunita

Nadace The Document Foundation (TDF) zastřešující vývoj svobodného kancelářského balíku LibreOffice dnes slaví 6 let od svého oficiálního vzniku. Nadace byla představena 28. září 2010. Formálně ale byla založena až 17. února 2012. Poslední lednový den byl vydán LibreOffice 6.0. Dle zveřejněných statistik byl za dva týdny stažen již cca milionkrát.

Ladislav Hagara | Komentářů: 1
17.2. 04:44 | Bezpečnostní upozornění

CSIRT.CZ upozorňuje, že byla vydána nová verze 1.2.3 svobodného routovacího démona Quagga (Wikipedie) přinášející několik bezpečnostních záplat. Při nejhorší variantě může dojít až k ovládnutí běžícího procesu, mezi dalšími možnostmi je únik informací z běžícího procesu nebo odepření služby DoS. Konkrétní zranitelnosti mají následující ID CVE-2018-5378, CVE-2018-5379, CVE-2018-5380 a CVE-2018-5381.

Ladislav Hagara | Komentářů: 0
17.2. 00:22 | Pozvánky

V sobota 7. dubna proběhne v Brně na FIT VUT nekomerční konference Security Session '18 věnovaná novinkám a aktuálním problémům v oblasti bezpečnosti mobilních a informačních technologií. Organizátoři vyhlásili CFP. Návrhy přednášek a workshopů lze zaslat do 4. března. Spuštěna byla registrace.

Ladislav Hagara | Komentářů: 0
16.2. 23:55 | Nová verze

Byla vydána verze 1.10 programovacího jazyka Go (Wikipedie). Přehled novinek v poznámkách k vydání. Zdůraznit lze vylepšené cachování buildů.

Ladislav Hagara | Komentářů: 0
Který webový vyhledávač používáte nejčastěji?
 (2%)
 (28%)
 (62%)
 (2%)
 (3%)
 (1%)
 (1%)
 (1%)
Celkem 374 hlasů
 Komentářů: 34, poslední 14.2. 18:44
    Rozcestník

    Dotaz: Prosba o pomoc s optimalizaciou programu

    10.9.2013 13:32 Peter
    Prosba o pomoc s optimalizaciou programu
    Přečteno: 306×
    Příloha:
    Dobrý deň vám prajem.

    Potreboval by som pomoc s optimalizáciou časti kódu na vyhľadanie a spracovanie duplicít v poli. Každý deň dostávam csv súbor so zákazníkmi, ktorý musím naimportovať do našej databázy. Forma tohto csv je jednoduchá:
    Priezvisko; Meno; Ulica; Mesto; PSC; Telefon; Tovar
    
    Ja ale ešte musím nájsť duplicitné záznamy a jediným relevantným "ID" je pre mňa v tomto prípade telefónne číslo, ktoré ale nemusí byť pre konkrétny záznam len jedno (može byť napríklad aj: 0905123456,02/123456) a v prípade, že sa nachádza v tom csv viacero záznamov s rovnakým číslom, tak mám všetky záznamy pre tovar zlúčiť do jedného záznamu. Na serveri môžem použiť len php alebo shell, tak som si napísal php skript, ktorý ale v časti ktorá vyhľadáva duplicity trvá pri 50.000 záznamoch cca hodinu. Dotyčná časť je v priloženom súbore.

    V princípe tam ide o to, že do premennej Pole_1 si načítam ten csv, potom čítam v cykle položku po položke a porovnávam s vytváraným polom Pole_2. Ak sa dotyčný záznam v poli nachádza, tak len do stĺpca VydanyTovar pridám tovar z aktuálneho záznamu a ak sa nenachádza, tak pridám celý záznam.

    Príklad csv:
    NezaujimavyBalast; Telefon; Tovar
    xxx              ; 123    ; a
    xxx              ; 567    ; b
    xxx              ; 123,567; c
    xxx              ; 567    ; d
    
    výsledok je teda:
    NezaujimavyBalast; Telefon; Tovar
    xxx              ; 123    ; a c
    xxx              ; 567    ; b d
    
    Samozrejme, že ten skript nie je dokonalý lebo ideálny výsledok by mal byť takýto (ale nato ako to mám zrobiť som už neprišiel):
    NezaujimavyBalast; Telefon; Tovar
    xxx              ; 123,567; a b c d
    
    Nájde sa prosím vás nejaká dobrá duša čo mi s tým pomôže? Vopred vám veľmi pekne ďakujem.

    Odpovědi

    Jendа avatar 10.9.2013 13:34 Jendа | skóre: 74 | blog: Výlevníček | JO70FB
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Nemůžeš to CSV nahrát do nějaké SQL databáze?
    10.9.2013 13:37 Peter
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Tak nie je problém urobiť na to nejakú temporary tabuľku, ale ako by som si mal napríklad v databáze poradiť s "explode"?
    Jendа avatar 10.9.2013 13:40 Jendа | skóre: 74 | blog: Výlevníček | JO70FB
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Budeš si muset udělat tabulku „telefony“ a do ní ukládat telefony a ID hlavního záznamu, ke kterému patří. Takže explode už v PHP (ale samotný explode by neměl být tak pomalý).
    10.9.2013 16:59 Peter
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Vyskúšam. Mimochodom z čiste akademického hľadiska - mňa zaujímalo, že či neexistujú iné algoritmy na vyhľadávanie, lebo ako vieme, tak každá vec sa dá zrobiť rôznymi spôsobmi, ale jeden spôsob je stále optimálnejší ako druhý. Čiže hlavne ma zaujíma, že či som nezrobil fatálnu chybu voľbou samotného algoritmu a či neexistuje niečo lepšie. Ďakujem za odpoveď.
    Jendа avatar 10.9.2013 17:02 Jendа | skóre: 74 | blog: Výlevníček | JO70FB
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    No ty máš složitost n^3 (3 for/foreach v sobě). Když to seřadíš nebo si z toho uděláš binární strom (to se asi v PHP bude dělat blbě), tak tam můžeš někam dostat nějaké log(n).
    10.9.2013 14:01 rastos | skóre: 60 | blog: rastos
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    V tej prvej variante by nemal výstup byť:
    xxx              ; 123    ; a c
    xxx              ; 567    ; b c d
    
    ?

    Takýto druh výstupu by som získal jednoducho tak, že by som každý riadok, ktorý má N telefónnych čísiel nahradil N-ticou riadkov, z ktorých každý by mal len jedno číslo. Potom by som urobil mapu, kde by telefónne číslo bolo kľúčom a hodnotou by bol zoznam tovarov.

    Tú druhý variantu výstupu by som riešil tak, že by som vstup najprv utriedil tak, aby najprv boli záznamy s väčším počtom telefónnych čísiel. No a potom nejako dosiahnuť, aby kľúčom do spomínanej mapy nebolo jedno telefónne číslo ale množina čísiel a mapa vracala hodnotu nie ak je dané číslo kľúčom, ale ak kľúč (množina) obsahuje hľadané číslo.

    Žiaľ ako konkrétne to spraviť v PHP ti neporadím. To prenechám niekomu, kto vidí PHP častejšie, ako ja - raz za uhorský rok. V jave alebo C++ by sa to riešilo overloadnutím triedy implementujúcej mapu.
    10.9.2013 15:24 axel
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Z hlediska samotneho vyhledavani se nejedna o mapu. V zasade by se musel vytvorit seznam mnozin cisel, ten prochazet a pri nalezeni shody pripadne sloucit mnoziny - dvojice (A, B) na vstupu vede na slouceni dosud disjunktnich mnozin (A, X) a (B,Y). V principu je to kvadraticke, ale na datech z realneho zivota by to asi mohlo fungovat (napr. zaznamy s jednim cislem lze pri tomto postupu zcela ignorovat). Az budu mit tyto mnoziny, tak si k nim uz cokoliv dohledam po jednotlivych obsazenych cislech s logaritmickou slozitosti.
    10.9.2013 16:54 Peter
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Výsledok prvej varianty je správny, lebo po nájdení prvej duplicity je tam break dotyčného cyklu. Ináč to zotriedenie je super nápad. Ďakujem za odpoveď.
    10.9.2013 15:08 gogol
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Vy mate viacerych zakaznikov s rovnakym menom ? A ked ma zakaznik rovnake meno ma aj rovnaku ulicu, pripadne iny identifikator ? Nepochopil som preco trvate na tom, ze jedinecny identifikator je telefonne cislo, kedze ich moze byt viacero a este k tomu aj v roznom tvare. Tovary od jedneho zakazika sa sparuju podla jeho mena, a nie podla telefonneho cisla, ktore nemusi byt ani jeho. Ako viete, ze tovar patri k relevantnemu zakaznikovi, ked to mate oznacene ako "nazaujimavy balast", alebo ste to dokonca vyhodil.
    10.9.2013 15:29 axel
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Taky to nechapu. Jako cvicebni priklad je to zajimave, ale nedovedu si predstavit, ze by jakymsi grupovanim po tel. cislech mohla vzniknout rozumna data. Jedine snad u nejakeho telemarketingu nebo pruzkumu, kde sktecne jedina jistota je cislo, na ktere jsem volal - clovek se mi muze predstavit treba jako Klement Gottwald a rict, ze priste mu mam zavolat na jine cislo (napr. pevna linka).
    10.9.2013 16:50 Peter
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Dedo - otec - syn? Dôvodov prečo je telefónne číslo "ID" je tam viacero, ale pre účel otázky sú bezpredmetné. Pre zaujímavosť - jeden z dôvodov je to, že obchodníci píšu ako negramotné prasatá a jediné "isté" je telefónne číslo. A verte, že prikazovať im aby si zopakovali prvý stupen ZŠ nemá zmysel. Mimochodom - máme empiricky potvrdené, že pri hľadaní duplicity cez telefónne číslo je chybovosť zanedbatelná, čo sa nedá povedať o inom spôsobe. Chcem upozorniť na to, že toto je reálny svet a reálne dáta a nie laboratórium. Ďakujem za odpoveď.
    10.9.2013 17:46 axel
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Ano deduplikace a obecne ztotoznovani je problem z realneho sveta. Zde ovsem schazi prave ten krok, kdy za pomoci ruznych kriterii (mezi nimiz muze byt pochopitelne i telefon) poznam, ze jde o stejnou entitu a dale s daty uz pracuju pod jejim identifikatorem. Tim ovsem typicky neni telefonni cislo (mimo jine i proto, ze jich je vice, coz je ten tvuj problem), ktere muze napriklad dostat pozdeji jina osoba, muze jit o pujceny, firemni, hotelovy pristroj. Tzn. pokud bys mel databazi entit, tak bys kazdy zaznam vuci ni naparoval (klidne podle tel. cisla, kdyz ti to bude vyhovovat) a jednoznacne identifikoval a pak uz trivialne nagrupoval. Takove databaze se pak dale prubezne cisti a deduplikuji.
    10.9.2013 18:47 Ivan Nový
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Použijte příkaz MySQL LOAD DATA, který vám načte csv do tabulky, pak příkazem SELECT * FROM x INTO OUTFILE '/tmp/x.csv'; vyberte co potřebujete a čas zpracování bude řádově pár minut.
    10.9.2013 19:14 extremni lama | skóre: 14 | blog: e_lama
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Vytvor si pomocnou hashovaci tabulku kde budes mit

    tel cislo => index v Pole_2

    Potom misto linearniho prochazeni toho pole se jenom podivej jestli zaznam je v te tabulce. A jses na linearni slozitosti...

    btw. 50 000 zaznamu za hodinu, to ne neuveritelne pomaly... Zpracovat takovy maly mnozstvi dat by melo trvat zlomky sekundy :-)
    The enemy of my enemy is still my enemy.
    10.9.2013 20:59 marek
    Rozbalit Rozbalit vše Re: Prosba o pomoc s optimalizaciou programu
    Dobry den.

    Pokud to setridite, pak je mozne dosahnout podobneho vysledku, jaky popisujete v dotazu, jednim pruchodem dat.

    viz:

    echo 'xxx              ; 123    ; a
    xxx              ; 567    ; b
    xxx              ; 123,567; c
    xxx              ; 567    ; d' | sort -t ';' -k 2 | awk -F ";" '// {prvni=$2;sub(",.*","",prvni);sub("^ *","",prvni);sub(" *$","",prvni);if (zminula != prvni){if(telefon != "" ){print balast ";" telefon ";" tovar}; balast=$1;tovar=$3;zminula=$2;sub("^ *","",zminula);sub(" *$","",zminula);telefon=zminula}else{tovar= tovar $3; balast= $1;sub(" *$","",$2);sub("^ *","",$2); if (!match(","telefon",",","$2",")){ telefon= $2}}} END {print balast ";" telefon ";" tovar}'
    

    To awk porovnava vzdy jenom s nasledujici polozkou v seznamu.

    Verim ze s 50000 zaznamy to na dnesnim zeleze bude hotove velmi rychle

    marek

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.