abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
dnes 17:30 | Zajímavý článek

Mozilla.cz informuje, že webový prohlížeč Firefox bude od verze 53 obsahovat integrovaný prohlížeč dat ve formátu JSON. Firefox kromě strukturovaného prohlížení nabídne také možnost filtrace a uložení na disk. Dle plánu by měl Firefox 53 vyjít 18. 4. 2017.

Ladislav Hagara | Komentářů: 0
dnes 11:00 | Komunita

Členové a příznivci spolku OpenAlt se pravidelně schází v Praze a Brně. Fotky z pražských srazů za uplynulý rok si můžete prohlédnout na stránkách spolku. Příští sraz se koná už zítra 19. ledna – tentokrát je tématem ergonomie ovládání počítače – tzn. klávesnice, myši a další zařízení. Také budete mít příležitost si prohlédnout pražský hackerspace Brmlab.

xkucf03 | Komentářů: 0
včera 21:55 | Komunita

Nadace pro svobodný software (FSF) oznámila aktualizaci seznamu prioritních oblastí (changelog), na které by se měli vývojáři a příznivci svobodného softwaru zaměřit. Jsou to například svobodný operační systém pro chytré telefony, hlasová a video komunikace nebo softwarový inteligentní osobní asistent.

Ladislav Hagara | Komentářů: 7
včera 16:44 | Nová verze

Byla vydána verze 2.0.0 knihovny pro vykreslování grafů v programovacím jazyce Python Matplotlib (Wikipedie, GitHub). Přehled novinek a galerie grafů na stránkách projektu.

Ladislav Hagara | Komentářů: 0
včera 15:33 | Komunita

V australském Hobartu probíhá tento týden konference linux.conf.au 2017. Na programu je celá řada zajímavých přednášek. Sledovat je lze online.

Ladislav Hagara | Komentářů: 0
včera 10:20 | Zajímavý článek

Pavel Tišnovský se v dvoudílném článku na MojeFedora.cz věnuje bitmapovým (rastrovým) grafickým editorům ve Fedoře. V prvním dílu se věnuje editorům MyPaint, MtPaint, Pinta, XPaint, Krita a GIMP. V pokračování pak editorům GNU Paint (gpaint), GrafX2, KolourPaint, KIconEdit a Tux Paint.

Ladislav Hagara | Komentářů: 1
16.1. 17:11 | Komunita

Byl proveden bezpečnostní audit svobodného IMAP a POP3 serveru Dovecot (Wikipedie). Audit byl zaplacen z programu Mozilla Secure Open Source a provedla jej společnost Cure53. Společnost Cure53 byla velice spokojena s kvalitou zdrojových kódu. V závěrečné zprávě (pdf) jsou zmíněny pouze 3 drobné a v upstreamu již opravené bezpečnostní chyby.

Ladislav Hagara | Komentářů: 0
16.1. 15:30 | IT novinky

Nadace Raspberry Pi představila na svém blogu Raspberry Pi Compute Module 3 (CM3 a CM3L), tj. zmenšené Raspberry Pi vhodné nejenom pro průmyslové využití. Jedná se o nástupce Raspberry Pi Compute Module (CM1) představeného v dubnu 2014. Nový CM3 vychází z Raspberry Pi 3 a má tedy dvakrát více paměti a desetkrát větší výkon než CM1. Verze CM3L (Lite) je dodávána bez 4 GB eMMC flash paměti. Uživatel si může připojit svou vlastní. Představena byla

… více »
Ladislav Hagara | Komentářů: 2
16.1. 01:23 | Nová verze

Oficiálně bylo oznámeno vydání verze 3.0 multiplatformního balíku svobodných kancelářských a grafických aplikací Calligra (Wikipedie). Větev 3 je postavena na KDE Frameworks 5 a Qt 5. Krita se osamostatnila. Z balíku byly dále odstraněny aplikace Author, Brainstorm, Flow a Stage. U Flow a Stage se předpokládá jejich návrat v některé z budoucích verzí Calligry.

Ladislav Hagara | Komentářů: 7
15.1. 15:25 | Nová verze

Bylo oznámeno vydání první RC (release candidate) verze instalátoru pro Debian 9 s kódovým názvem Stretch. Odloženo bylo sloučení /usr jako výchozí nastavení v debootstrap. Vydán byl také Debian 8.7, tj. sedmá opravná verze Debianu 8 s kódovým názvem Jessie.

Ladislav Hagara | Komentářů: 6
Jak se stavíte k trendu ztenčování přenosných zařízení (smartphony, notebooky)?
 (10%)
 (3%)
 (75%)
 (3%)
 (10%)
Celkem 314 hlasů
 Komentářů: 24, poslední včera 10:14
    Rozcestník
    Reklama

    Dotaz: PostgreSQL indexy

    18.1.2012 14:04 Program
    PostgreSQL indexy
    Přečteno: 430×
    Zdravím, před nějakou dobou jsem narazil u MySQL na problémy s mazáním řádků ve velkých tabulkách (14-40 mil. řádků). Rychlost byla žalostná. Zkoušel jsem db přeimportovat na PostgreSQL (9.1), ale výsledek byl ještě horší. postmaster pořád počítal index (integer), skoro nehrabal na disk a operace trvaly řádově hodiny až dny.

    Zkusil jsem vytvořit nad tabulkou HASH indexy a hle, doba zpracování se smrskla na pár minut. Bohužel hash indexy jsou nedoporučované a plně nepodporované. Všude jsem se dočetl, že nemají výkonnostní benefit prakticky žádný.

    Chtěl jsem se tedy zeptat, jak to s indexy u psql je, přehlídl jsem nějakou možnou optimalizaci BTREE indexů, která by je posunula na úroveň HASH indexů?

    Mockrát díky.

    Odpovědi

    okbob avatar 18.1.2012 19:03 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
    Rozbalit Rozbalit vše Re: PostgreSQL indexy
    Jak mazete?

    Mazete jednim prikazem nebo iteracne

    Jedete v transakci?

    Chytal se vam index?

    co vam vypise EXPLAIN DELETE ... ?

    Update BTREE je relativne pomala operace (zvlast pokud jedete v nahodnem poradi) - pokud Vam pomuze HASH, tak to nereste - proste pred intenzivnim mazanim si vytvorte hash index, dropnete pripadne btree indexy, promazejte, dropnete hash index a vytvorte Btree. HASH index se prilis nepouziva, protoze je pouzitelny pouze pro filtrovani na rovnost. Pro vsechny ostatni operace se neda pouzit. Ve starsich verzich byl navic vykonostne horsi ve vsech ohledech nez BTREE. V 9 prosel refaktoringem. A to je tak asi vsechno o tom vim.

    Pro BTREE zkuste seradit ID, ktera mazete - tak abyste mazal vzestupne. Treba si je ulozit nekam do docasne tabulky

    id urcena ke smazani jsem ulozil do tabulky delid
    --overeni, ze se sortuje
    postgres=# explain DELETE FROM g USING delid WHERE g.i = delid.i;
                                           QUERY PLAN                                       
    ----------------------------------------------------------------------------------------
     Delete on g  (cost=11459.39..47502.35 rows=100000 width=12)
       ->  Merge Join  (cost=11459.39..47502.35 rows=100000 width=12)
             Merge Cond: (g.i = delid.i)
             ->  Index Scan using g_pkey on g  (cost=0.00..303936.00 rows=9999977 width=10)
             ->  Materialize  (cost=11459.32..11959.32 rows=100000 width=10)
                   ->  Sort  (cost=11459.32..11709.32 rows=100000 width=10)
                         Sort Key: delid.i
                         ->  Seq Scan on delid  (cost=0.00..1443.00 rows=100000 width=10)
    
    odstraneni 77 tis radku trvalo cca 57 ms
    18.1.2012 21:43 Program
    Rozbalit Rozbalit vše Re: PostgreSQL indexy
    Dobrý den a díky za odpověď.

    Maže se přes FK ON DELETE CASCADE, takže víceméně náhodně, ale pomalé jsou všechny operace nad danou tabulkou, kde se využívají klíče (zejména JOIN z odkazované tabulky). V update BTREE problém není, protože po přidání HASH indexu ty steré jsem nemazal (i když by to dost možná ještě více zrychlilo). Nepoužitým indexem to také není, protože to by skenovalo tabulku, což se nedělo.

    Co se explainu týče, teď ho po ruce nemám, ale nic zajímavého tam nebylo, jen z explain analyze byly vidět šílené časy.

    Mě jde o to, že i v PSQL 9. je HASH index nedoporučovaný a nelogovoaný, z dokumentace mi připadalo, že je to jakýsi pokus se kterým se nepočítá. Nic méně výkonnostní benefit byl obrovský a při použití jen BTREE indexů dotaz visel na procesoru a strašně dlouho. Nemyslím, že je na BTREE něco tak hrozně výpočetně náročného, takže by mě zajímalo, jestli to není třeba typická vlastnost nevhodného nastavení (až na shared buffers bylo asi všechno default).

    Díky
    okbob avatar 18.1.2012 22:13 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
    Rozbalit Rozbalit vše Re: PostgreSQL indexy
    Z testů by HASH index neměl být extrémně lepší než BTREE - spíše naopak - nicméně vždy záleží i na samotných datech. Možná mají Vaše data takové rozdělení a takový typ, že je na nich BTREE neefektivní a naopak HASH funguje výborně. Dovedu si představit, že pokud byste měl klíče textové v určitém tvaru, tak by BTREE nemusel dopadnout dobře. Musel bych mít v ruce Vaše data, abych se mohl podívat jak vypadá index zevnitř - případně se i vy sám můžete podívat na stav indexu - v contribu je modul pgstattuple, kde je funkce pgstatindex, která vrací fragmentaci indexu, hloubku indexu a další údaje.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.