abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 13:33 | Komunita

    Software Freedom Conservancy v novém dokumentu shrnuje doporučení, jak přistupovat ke generativní AI založené na LLM při přispívání do svobodného a open-source softwaru. Mimo jiné vyzývá k obezřetnosti, transparentnosti a revizi generovaného kódu člověkem.

    |🇵🇸 | Komentářů: 0
    dnes 13:22 | Nová verze

    Byla vydána nová verze 5.6.0 programu na úpravu digitálních fotografií darktable (Wikipedie).

    Ladislav Hagara | Komentářů: 0
    včera 20:11 | Komunita

    Na čem aktuálně pracují vývojáři GNOME a KDE Plasma? Pravidelný přehled novinek v Týden v GNOME a Týden v KDE Plasma. V Týdnu v GNOME je zmíněn flatpak balíček pro GIMP 0.54.1 z roku 1996. Jedná se o poslední verzi GIMPu postavenou nad toolkitem Motif.

    Ladislav Hagara | Komentářů: 0
    včera 19:11 | Nová verze

    Home Assistant Operating System, tj. linuxová distribuce optimalizována pro hostování Home Assistanta a jeho aplikací, byl vydán v nové major verzi 18.0.

    Ladislav Hagara | Komentářů: 0
    včera 18:11 | Komunita

    Po šestiletém úsilí byla z jádra Linux odstraněna funkce strncpy(). Všechna předchozí volání této funkce byla převedena na bezpečnější alternativy.

    Ladislav Hagara | Komentářů: 1
    včera 17:22 | Nová verze

    Byla vydána nová verze 261 správce systému a služeb systemd (Wikipedie, GitHub). Z novinek lze vypíchnout nový subsystém IMDS (Cloud "Instance Metadata Service"), nový příkaz storagectl nebo novou komponentu systemd-sysinstall.

    Ladislav Hagara | Komentářů: 2
    včera 12:00 | Nová verze

    Vývojové prostředí Qt Creator bylo vydáno ve verzi 20 (seznam změn). Novinky zahrnují hlavně rozšíření pro integraci LLM agentů nebo minimalistický editační režim uživatelského rozhraní („zen mode“).

    |🇵🇸 | Komentářů: 0
    19.6. 10:22 | Humor

    Už jste se prolétli na webu Google Earth? Přibyl tam Simulátor letu (Nástroje / Simulátor letu). Funguje i bez účtu Google [𝕏].

    Ladislav Hagara | Komentářů: 0
    19.6. 09:55 | Nová verze

    Byla vydána nová verze 4.7 (𝕏, Bluesky, Mastodon) multiplatformního open source herního enginu Godot (Wikipedie, GitHub). Přehled novinek i s náhledy v příspěvku na blogu.

    Ladislav Hagara | Komentářů: 3
    18.6. 13:33 | Nová verze

    Mastodon (Wikipedie) - sociální síť, která není na prodej - byl vydán ve verzi 4.6. Přehled novinek s náhledy v oznámení na blogu.

    Ladislav Hagara | Komentářů: 0
    Které desktopové prostředí na Linuxu používáte?
     (11%)
     (8%)
     (2%)
     (16%)
     (31%)
     (3%)
     (6%)
     (3%)
     (15%)
     (26%)
    Celkem 1952 hlasů
     Komentářů: 30, poslední 3.4. 20:20
    Rozcestník

    Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB

    26.6.2021 21:54 | programovanie | poslední úprava: 26.6.2021 22:21

    Online zde (slovenština).

    Inspirovanou diskusním dotazem „3700 tabuliek“.        

    Hodnocení: 44 %

            špatnédobré        

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    Komentáře

    Vložit další komentář

    27.6.2021 11:50 Matlák
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    Pěkné srovnání a odkazované čtení o hash tabulkách v PHP (ačkoliv se domnívám že PHP se na velké projekty nehodí a ani na velká data ne - třiceti terabajty dat zmíněných v dotazu "3700 tabuliek" bych PHP rozhodně nekrmil :-)), jen to LENGHT tam pěkně tahá za oči, to bych být tebou opravil.
    27.6.2021 11:51 Matlák
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    s/zmíněných/zmíněnými/
    27.6.2021 15:38 z_sk | skóre: 34 | blog: analyzy
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    Ahoj.

    Ono treba poznat limity nastrojov, a bud volit iny alebo zmenit architektiru. Je rozdiel robit softver pre delenie cisiel v textovej forme s dlzkou do 10B na cislo a druhe, ze cislo moze byt nekonecne dlhe (iba limit hardveru). Ja som potom indexoval inac (robene pre nekonecno), lebo PHP a kolko mam RAM sa mi nechcelo riesti.

    No moje porovnavanie dava, co ponuk one box riesenie PHP bez optimalizacii (zo uz zrejme by muselo byt prepisany kod do C, C++ alebo Rust).

    K jeho diskusii. Nepise kolko ma dotazov. Co mne vyslo, tak 11GB databaza pri jeho jednej popisanej struktury ma tabulka 22M zaznamov. Nevyhnutny cas pre import je nacitanie zo suboru a zapisat DB interne. Cize zapisat 2x11GB=2x3,6s (disk 50MB/s). K tomu ak easy riesenie este zotriedenie dat v poli s pametanim kluca, tak nam vychadza pri 22M polozkach zabere 2 229 MB a 36.506s. Ak ma DB velku 11 GB, tak pri 32 GB RAM sa mu to v pohode zmesti do RAM. Takze na nevytazenom systeme to trva aktualizacia dajme 1 minutu. 3600 tabuliek = 2.29 dna v najhorsom pripade. Takze zalezi kolko tabuliek sa akt. Ak je potrebne aktualizovat vela, tak zotriedit v BTree strome a podobne.
    debian.plus@protonmail.com
    27.6.2021 16:21 z_sk | skóre: 34 | blog: analyzy
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    Ach moje pocitanie, oprava:

    zapis (50 MB/s)zotredeniaexport/import (1 DB)export (3300 DB, najhorsi scenar)
    2 x 220 s36,506 s476,5 s18,19 dni
    2 x 220 s0 s440 s16,80 dni

    zapis (200 MB/s)zotredeniaexport/import (1 DB)export (3300 DB, najhorsi scenar)
    2 x 55 s36,506 s38,326 s5,59 dni
    2 x 55 s0 s440 s4,20 dni

    DB ma 11 GB.

    To moze byt rad, ze mu to trva 1 den ked porovna najhorsie scenare. :)
    debian.plus@protonmail.com
    28.6.2021 03:08 z_sk | skóre: 34 | blog: analyzy
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    Správne: Ach moje počítanie, oprava:
    zapis (50 MB/s)zotredeniaexport/import (1 DB)export (3300 DB, najhorsi scenar)
    2 x 220 s36,506 s476,5 s18,19 dni
    2 x 220 s0 s440 s16,80 dni

    zapis (200 MB/s)zotredeniaexport/import (1 DB)export (3300 DB, najhorsi scenar)
    2 x 55 s36,506 s38,326 s5,59 dni
    2 x 55 s0 s110 s4,20 dni

    DB ma 11 GB.

    Hm, prečo interné neukladá si vo vlastnej implementovanej DB ako CVS, ved aj sqlite je vlastne txt subor, iba inak zabalene dáta. Tuším aj nejaká DB (tuším MariaDB) povoľuje ukladať ako CVS.

    Hm, keby sa ešte ukladať dáta zazipované, tak bolo by to menej miesta zaberalo, resp. bolo nutné ukladať.

    Pre 22M záznamov:

    284M	cvs.txt
    111M	cvs.txt.gz

    debian.plus@protonmail.com
    28.6.2021 09:28 samalama
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    prosim vas, ako sa da niekto zakazat na internete...?
    28.6.2021 11:17 t@fu
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    No jednoducho - izolaciou. Nech sa realizuje na jednom fore, napr. na abclinuxu a na zbytok internetu nech nelozi :-)
    Člověk z Horní Dolní avatar 28.6.2021 13:54 Člověk z Horní Dolní | blog: blbeczhornidolni
    Rozbalit Rozbalit vše Re: Benchmark hašovacích tabuliek v PHP cez jednod. key-value DB
    PHP? LOL

    Založit nové vláknoNahoru

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.