abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

    dnes 22:22 | Nová verze

    CyberChef je webová aplikace pro analýzu dat a jejich kódování a dekódování, šifrování a dešifrování, kompresi a dekompresi, atd. Často je využívaná při kybernetických cvičeních a CTF (Capture the Flag). Vydána byla nová major verze 10 (aktuálně 10.4.0). Přehled novinek v Changelogu.

    Ladislav Hagara | Komentářů: 0
    dnes 19:22 | Nová verze

    UBports, nadace a komunita kolem Ubuntu pro telefony a tablety Ubuntu Touch, vydala Ubuntu Touch OTA-1 Focal založené na Ubuntu 20.04 Focal Fossa.

    Ladislav Hagara | Komentářů: 0
    dnes 17:11 | IT novinky

    Společnost Red Hat slaví 30 let.

    Ladislav Hagara | Komentářů: 1
    dnes 15:22 | IT novinky

    Ve věku 91 let zemřel izraelský informatik Ja'akov Ziv, spolutvůrce bezztrátových kompresních algoritmů LZ77, LZ78 a LZW (Lempel–Ziv–Welch).

    Ladislav Hagara | Komentářů: 0
    dnes 11:00 | IT novinky

    Byla představena nová Arduino deska Arduino UNO R4 s 32bitovým MCU RA4M1 (Arm Cortex-M4). Desku lze zatím získat pouze v rámci early access programu.

    Ladislav Hagara | Komentářů: 0
    včera 18:33 | Nová verze

    Operační systém MidnightBSD, fork FreeBSD optimalizovaný pro desktop s prostředím Xfce, byl vydán ve verzi 3.0. Přehled novinek v poznámkách k vydání.

    Ladislav Hagara | Komentářů: 6
    včera 18:22 | IT novinky

    Na GOG.com běží Spring Sale. Při té příležitosti lze získat zdarma počítačovou hru Neurodeck: Psychological Deckbuilder (ProtonDB).

    Ladislav Hagara | Komentářů: 0
    25.3. 12:33 | Komunita

    Alex Ellis upozornil 15. března, že firma Docker se chystala zrušit bezplatný hosting open-source projektů na Docker Hubu. Po vlně odporu se představitelé firmy omluvili a posléze byl původní záměr odvolán.

    Fluttershy, yay! | Komentářů: 29
    25.3. 07:00 | IT novinky

    Ve věku 94 let zemřel Gordon Moore, mj. spoluzakladatel společnosti Intel a autor Moorova zákona.

    Ladislav Hagara | Komentářů: 1
    24.3. 17:11 | Nová verze

    Mercurial (Wikipedie), software pro SCM (Source Code Management), byl vydán ve verzi 6.4. Přehled novinek v poznámkách k vydání. Ve dnech 5. až 7. dubna proběhne konference Mercurial Paris.

    Ladislav Hagara | Komentářů: 0
    Používáte WSL (Windows Subsystem for Linux)?
     (74%)
     (12%)
     (4%)
     (11%)
    Celkem 340 hlasů
     Komentářů: 4, poslední 24.3. 06:42
    Rozcestník


    Dotaz: multi regexp

    19.7.2013 14:43 Zaboj Campula
    multi regexp
    Přečteno: 348×

    Zdravim vsechny,

    Vstup

    • Mam mnozinu regularnich vyrazu (radove tisice).
    • a mam jeden textovy retezec.
    Problem
    • Najit alespon jeden regularni vyraz ktery s shoduje s retezcem nebo vratit chybu.
    Jazyk
    • idealne c/c++
    Sekvencni prochazeni vsech regularnich vyrazu a test na shodu je pomale.

    Ma nekdo nejaky napad na chytry algoritmus?

    Odpovědi

    19.7.2013 15:55 Kit
    Rozbalit Rozbalit vše Re: multi regexp
    Spojit těch 1000 regulárních výrazů do jednoho?
    19.7.2013 16:15 ::: | skóre: 14 | blog: e_lama
    Rozbalit Rozbalit vše Re: multi regexp
    pokud potrebuje vedet i ktery z nich matchuje tak to nebude tak jednoduchy.

    Napada me treba:

    - nejdriv udelas jeden velky RE, ktery vrati match pokud libovolny z tech 1000 RE by vratil match

    - vyzkousis a pokud najde match, tak:

    - vytvoris si 2 novy RE. Jeden bude spojovat puvodni RE 1 .. 500, ten druhy bude spojovat puvodni RE 501 .. 1000

    - vyzkousis match s kazdym z tech dvou

    - ten ktery vrati shodu znovu rozdelis, atd...

    Ty spojovaci RE by sis mohl predpocitat a umistnit do binarniho stromu, ktery bys potom prochazel od korene k listum...

    Takze bys vzdycky zkousel log2(N) RE.
    19.7.2013 16:20 ::: | skóre: 14 | blog: e_lama
    Rozbalit Rozbalit vše Re: multi regexp
    jeste bych doplnil ze tohle by melo fungovat dobre pokud pouzivas regex engine ktery si to vnitrne prevadi na FA.

    Pokud vnitrne pouziva backtracking tak to asi nepomuze...
    19.7.2013 16:18 Zaboj Campula
    Rozbalit Rozbalit vše Re: multi regexp
    To jako kdybych mel dejme tomu regularni vyrazy
    • A.*B
    • A[AB]C
    • D$
    Tak udlat jeden \(A.*B\|A[AB]C\|D$\) To by mozna slo, ale nejsem si jisty jestly by to bylo o moc rychlejsi nez sekvencni prohledavani. Zmerim a dam vedet.
    19.7.2013 16:58 Kit
    Rozbalit Rozbalit vše Re: multi regexp
    Přesně tak. Záleží na kvalitě kompilátoru regulárního výrazu, ale předpokládám řádové zrychlení oproti sekvenčnímu prohledávání.

    Některé jazyky (např. PHP) umožňují zadat regulární výrazy do pole. Netuším, jak je to s rychlostí.
    wamba avatar 19.7.2013 18:00 wamba | skóre: 38 | blog: wamba
    Rozbalit Rozbalit vše Re: multi regexp
    No v Perl-u jsem to zkoušel a dokážu najít případy, kdy to bude rychlejší i o dost pomalejší
    #!/usr/bin/perl
    use 5.010;
    use warnings;
    use strict;
    use List::Util qw{first};
    use Benchmark;
    our $VERSION = 0.001;
    
    my $string =
    '234781802319q8019810328103982104398021483049823094830498023982094823028340932840923830483201223';
    
    my @multiregexp = ( qr{ \A \d+ . \z }msx, qr{ \$ }msx, );
    
    timethese(
        1000000,
        {
            more => sub {
                my $trueregexp = first { $string ~~ $_ } @multiregexp;
            },
            one => sub { my $tt = $string ~~ m{\A \d+ . \z|\$}msx ? 1 : 0; },
            one_better =>
              sub { my $tt = $string ~~ m{\A \d+ . \z|\A .* \$ .* \z}msx ? 1 : 0; },
        }
    );
    
    mi vypíše
    Benchmark: timing 1000000 iterations of more, one, one_better...
          more:  3 wallclock secs ( 2.72 usr +  0.00 sys =  2.72 CPU) @ 367647.06/s (n=1000000)
           one: 14 wallclock secs (13.69 usr +  0.01 sys = 13.70 CPU) @ 72992.70/s (n=1000000)
    one_better: 12 wallclock secs (12.06 usr +  0.00 sys = 12.06 CPU) @ 82918.74/s (n=1000000)
    
    když $string upravím a přidám na konec $, tak
          more:  3 wallclock secs ( 3.21 usr +  0.00 sys =  3.21 CPU) @ 311526.48/s (n=1000000)
           one: 12 wallclock secs (13.74 usr +  0.00 sys = 13.74 CPU) @ 72780.20/s (n=1000000)
    one_better:  1 wallclock secs ( 2.04 usr +  0.00 sys =  2.04 CPU) @ 490196.08/s (n=1000000)
    
    a když smažu q z takto upraveného $string
          more:  3 wallclock secs ( 2.18 usr +  0.00 sys =  2.18 CPU) @ 458715.60/s (n=1000000)
           one:  1 wallclock secs ( 1.39 usr +  0.00 sys =  1.39 CPU) @ 719424.46/s (n=1000000)
    one_better:  0 wallclock secs ( 1.36 usr +  0.00 sys =  1.36 CPU) @ 735294.12/s (n=1000000)
    
    atp.
    This would have been so hard to fix when you don't know that there is in fact an easy fix.
    wamba avatar 19.7.2013 18:51 wamba | skóre: 38 | blog: wamba
    Rozbalit Rozbalit vše Re: multi regexp
    a to first ještě dá na výstup, který ten regexp bude true ještě se to dá otestovat jako
     more_better => sub {
                my $tt = $string ~~ @multiregexp ? 1 : 0;
              }
    
    které je nejrychlejší ve všech předešlých případech
    This would have been so hard to fix when you don't know that there is in fact an easy fix.
    19.7.2013 15:59 Mr.S1lent.cz
    Rozbalit Rozbalit vše Re: multi regexp
    Nebo taky muzes zaindexovat hledany retezec a napsat custom regexp nastroj pro vyhledavani v indexu :)
    19.7.2013 16:25 Zaboj Campula
    Rozbalit Rozbalit vše Re: multi regexp
    Omlovam se, ale nechapu. Slo by ten napad nejak rozvest, abych ho pochopil i ja?
    19.7.2013 18:55 Mr.S1lent.cz
    Rozbalit Rozbalit vše Re: multi regexp
    Zalezi na povaze vstupu, z toho musis vychazet.

    1) je to nahodny retezec vsech pismen nebo jen velkych a malych, cisel, specialnich znaku? 2) regexpy jsou generovany obecne na nejake mnoziny znaku nebo primo na nejaky konkretni retezce?

    To zaindexovani ti odhalim, az ty mi zodpovis tyto dva body, jinak to nema smysl :)
    wamba avatar 20.7.2013 09:59 wamba | skóre: 38 | blog: wamba
    Rozbalit Rozbalit vše Re: multi regexp
    tak abych odpověděl navrhuji použít Perl
    use 5.010;
    use warnings;
    use strict;
    use List::Util qw{first};
    our $VERSION = 0.001;
    
    my $string =
    '23478180231x98019810328103982104398021483049823094830498023982094823028340932840923830483201223$';
    
    my @multiregexp = ( qr{ \A \d+ . \z }msx, qr{ \$ }msx, );
    my $trueregexp = first { $string ~~ $_ } @multiregexp;
    
    say 'tento regexp vyhovuje ', $trueregexp;
    
    a když to nebude dostatečně rychlé, tak to chce vědět více o těch regexp-ech popř. o tom řetězci, aby se dalo navrhnout něco efektivnějšího
    This would have been so hard to fix when you don't know that there is in fact an easy fix.
    23.7.2013 15:51 Zaboj Campula
    Rozbalit Rozbalit vše Re: multi regexp

    Takze dekuji vsem za kometare.

    Spojeni do jednoho velkeho regexpu jak je navrzeno vyse by snad splnilo podminku na rychle vyhledavani, nicmene jsem skoncil na tom ze je potreba i pomerne rychla reakce na to kdyz uzivatel nejaky regulani vyraz prida/ubere/zmeni a konstrukce toho dloooouheho regularniho vyrazu a jeho kompilace je prilis pomala.

    Vysledne reseni je nakonec zalozene na tom, ze ty regularni vyrazy - tedy alespon vetsinaz nich ma v sobe nejaky pevny retezec, napriklad "[0-9]ABC[0-9]" a pomoci techto retezcu lze udelat index a v tom indexu najit podmnozinu regexu ktere se pak matchuji sekvencne. Vetsinou jsou to regexy slozitejsi nez v tom prikladu, ale obvykle to jde a tech par stovek regexu, ze kterych se neda nejaky rozumny retezec vyextraovat se bude prochazet sekvencne az kdyz se nenajde jinde.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.