abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
včera 21:55 | Komunita

Nadace pro svobodný software (FSF) oznámila aktualizaci seznamu prioritních oblastí (changelog), na které by se měli vývojáři a příznivci svobodného softwaru zaměřit. Jsou to například svobodný operační systém pro chytré telefony, hlasová a video komunikace nebo softwarový inteligentní osobní asistent.

Ladislav Hagara | Komentářů: 3
včera 16:44 | Nová verze

Byla vydána verze 2.0.0 knihovny pro vykreslování grafů v programovacím jazyce Python Matplotlib (Wikipedie, GitHub). Přehled novinek a galerie grafů na stránkách projektu.

Ladislav Hagara | Komentářů: 0
včera 15:33 | Komunita

V australském Hobartu probíhá tento týden konference linux.conf.au 2017. Na programu je celá řada zajímavých přednášek. Sledovat je lze online.

Ladislav Hagara | Komentářů: 0
včera 10:20 | Zajímavý článek

Pavel Tišnovský se v dvoudílném článku na MojeFedora.cz věnuje bitmapovým (rastrovým) grafickým editorům ve Fedoře. V prvním dílu se věnuje editorům MyPaint, MtPaint, Pinta, XPaint, Krita a GIMP. V pokračování pak editorům GNU Paint (gpaint), GrafX2, KolourPaint, KIconEdit a Tux Paint.

Ladislav Hagara | Komentářů: 1
16.1. 17:11 | Komunita

Byl proveden bezpečnostní audit svobodného IMAP a POP3 serveru Dovecot (Wikipedie). Audit byl zaplacen z programu Mozilla Secure Open Source a provedla jej společnost Cure53. Společnost Cure53 byla velice spokojena s kvalitou zdrojových kódu. V závěrečné zprávě (pdf) jsou zmíněny pouze 3 drobné a v upstreamu již opravené bezpečnostní chyby.

Ladislav Hagara | Komentářů: 0
16.1. 15:30 | IT novinky

Nadace Raspberry Pi představila na svém blogu Raspberry Pi Compute Module 3 (CM3 a CM3L), tj. zmenšené Raspberry Pi vhodné nejenom pro průmyslové využití. Jedná se o nástupce Raspberry Pi Compute Module (CM1) představeného v dubnu 2014. Nový CM3 vychází z Raspberry Pi 3 a má tedy dvakrát více paměti a desetkrát větší výkon než CM1. Verze CM3L (Lite) je dodávána bez 4 GB eMMC flash paměti. Uživatel si může připojit svou vlastní. Představena byla

… více »
Ladislav Hagara | Komentářů: 1
16.1. 01:23 | Nová verze

Oficiálně bylo oznámeno vydání verze 3.0 multiplatformního balíku svobodných kancelářských a grafických aplikací Calligra (Wikipedie). Větev 3 je postavena na KDE Frameworks 5 a Qt 5. Krita se osamostatnila. Z balíku byly dále odstraněny aplikace Author, Brainstorm, Flow a Stage. U Flow a Stage se předpokládá jejich návrat v některé z budoucích verzí Calligry.

Ladislav Hagara | Komentářů: 7
15.1. 15:25 | Nová verze

Bylo oznámeno vydání první RC (release candidate) verze instalátoru pro Debian 9 s kódovým názvem Stretch. Odloženo bylo sloučení /usr jako výchozí nastavení v debootstrap. Vydán byl také Debian 8.7, tj. sedmá opravná verze Debianu 8 s kódovým názvem Jessie.

Ladislav Hagara | Komentářů: 6
15.1. 13:37 | Zajímavý projekt

1. ledna byl představen projekt Liri (GitHub). Jedná se o spojení projektů Hawaii, Papyros a původního projektu Liri s cílem vyvíjet operační systém (linuxovou distribuci) a aplikace s moderním designem a funkcemi. Včera byl představen Fluid 0.9.0 a také Vibe 0.9.0. Jedná se o toolkit a knihovnu pro vývoj multiplatformních a responzivních aplikací podporující Material Design (Wikipedie) a volitelně také Microsoft Design Language (designový jazyk Microsoft) [reddit].

Ladislav Hagara | Komentářů: 8
14.1. 00:33 | Zajímavý software

Google na svém blogu věnovaném open source představil knihovnu pro komprimaci a dekomprimaci 3D grafiky s názvem Draco. Knihovna bude využívána například v aplikacích pro virtuální a rozšířenou realitu. Porovnání Draco s gzip na YouTube. Zdrojové kódy Draco jsou k dispozici na GitHubu pod licencí Apache 2.0.

Ladislav Hagara | Komentářů: 5
Jak se stavíte k trendu ztenčování přenosných zařízení (smartphony, notebooky)?
 (10%)
 (2%)
 (75%)
 (3%)
 (10%)
Celkem 306 hlasů
 Komentářů: 24, poslední včera 10:14
    Rozcestník
    Reklama

    Dotaz: Pomalý SELECT

    9.5.2009 18:24 Jirka
    Pomalý SELECT
    Přečteno: 626×

    Předem se omlouvám, za delší popis situace. Mám dvě tabulky, jedna je velká (milion záznamů) a druhá je číselník.
    Struktura tabulek:

    CREATE TABLE `tab` (
      `id` INT NOT NULL AUTO_INCREMENT,
      `login` char(1) NOT NULL,
      PRIMARY KEY (`id`),
      KEY `login` ( `login` )
    ) ENGINE=MyISAM;
    
    CREATE TABLE `user` (
      `login` char(1) NOT NULL,
      `name` varchar(30) NOT NULL,
      PRIMARY KEY ( `login` ) 
    ) ENGINE=MyISAM;
    

    Naplním daty číselník:

    INSERT INTO `user` (`login`, `name`) VALUES ('a', 'AAA');
    INSERT INTO `user` (`login`, `name`) VALUES ('b', 'BBB');
    INSERT INTO `user` (`login`, `name`) VALUES ('c', 'CCC');
    INSERT INTO `user` (`login`, `name`) VALUES ('d', 'DDD');
    INSERT INTO `user` (`login`, `name`) VALUES ('e', 'EEE');
    INSERT INTO `user` (`login`, `name`) VALUES ('f', 'FFF');
    INSERT INTO `user` (`login`, `name`) VALUES ('g', 'GGG');
    INSERT INTO `user` (`login`, `name`) VALUES ('h', 'HHH');
    INSERT INTO `user` (`login`, `name`) VALUES ('i', 'III');
    INSERT INTO `user` (`login`, `name`) VALUES ('j', 'JJJ');
    

    A pomocí PHP velkou tabulku náhodnými údaji:

    for ($i = 0; $i < 1000000; $i++)
         mysql_query("INSERT INTO `tab` (`login`) VALUES ('".chr(rand(97,106))."')");
    

    Nyní potřebuji provést následující dotaz:

    SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login`, `user`.`name` 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    ORDER BY `tab`.`id` DESC 
    LIMIT 1;
    +---------+-------+------+
    | id      | login | name |
    +---------+-------+------+
    | 1000000 | i     | III  | 
    +---------+-------+------+
    1 row in set (2.58 sec)
    

    Co mě vadí, je doba trvání dotazu. Pokud odstraním SQL_CALC_FOUND_ROWS, dotaz se zrychlí:

    SELECT `tab`.`id`, `tab`.`login`, `user`.`name` 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    ORDER BY `tab`.`id` DESC 
    LIMIT 1;
    +---------+-------+------+
    | id      | login | name |
    +---------+-------+------+
    | 1000000 | i     | III  | 
    +---------+-------+------+
    1 row in set (0.01 sec)
    

    Nebo když odstraním LEFT JOIN, dotaz se opět zrychlí:

    SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login` 
    FROM `tab` 
    ORDER BY `tab`.`id` DESC 
    LIMIT 1;
    +---------+-------+
    | id      | login |
    +---------+-------+
    | 1000000 | i     | 
    +---------+-------+
    1 row in set (0.32 sec)
    

    Kupodivu, když přidám WHERE, tak se dotaz také zrychlí:

    SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login`, `user`.`name` 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    WHERE `tab`.`login`='a' 
    ORDER BY `tab`.`id` DESC 
    LIMIT 1;
    +--------+-------+------+
    | id     | login | name |
    +--------+-------+------+
    | 999998 | a     | AAA  | 
    +--------+-------+------+
    1 row in set (0.17 sec)
    

    Jenže já bych potřeboval zrychlit ten první dotaz, ale nevím jak na to. Může mi někdo poradit, či vysvětlit proč dostávám tak rozdílné časy?

    Odpovědi

    9.5.2009 18:30 Jirka
    Rozbalit Rozbalit vše Re: Pomalý SELECT

    Ještě dodávám, že to testuji na openSUSE 11.1 a na  MySQL 5 z distribuce.

    9.5.2009 18:51 Vojtěch Horký | skóre: 39 | blog: Vojtův zápisník | Praha
    Rozbalit Rozbalit vše Re: Pomalý SELECT
    Nejde náhodou o to, že s tou klauzulí SQL_CALC_FOUND_ROWS server vykonává ten dotaz jako by tam nebyl ten LIMIT 1, aby zjistil, kolik bude řádků (tudíž bez toho WHERE to bude asi full-scan) a teprve pak to ořeže?

    Nevyšlo by rychleji ptát se na počet řádků pomocí dalšího COUNT(*) dotazu (to by měl stačit průchod přes index)?

    BTW - indexy máte vytvořené?
    I am always ready to learn although I do not always like to be taught. (W. Churchill)
    9.5.2009 19:02 Filip Jirsák | skóre: 66 | blog: Fa & Bi
    Rozbalit Rozbalit vše Re: Pomalý SELECT
    Spojovat tabulky přes řetězce je, řekněme, suboptimální – daleko lépe se bude databázi pracovat, pokud v té tabulce vytvoříte číselný primární klíč a spojovat budete přes něj. Dotaz bez SQL_CALC_FOUND_ROWS je rychlejší, protože v tom druhém dotazu používáte LIMIT – s ním databázi stačí, když najde první výsledek, a ten vám vrátí. Když ale musí spočítat SQL_CALC_FOUND_ROWS, musí stejně dotaz provést celý, jako by tam LIMIT nebyl.
    10.5.2009 09:14 Jirka
    Rozbalit Rozbalit vše Re: Pomalý SELECT

    Díky za náměty a rady. Všechny jsem je postupně vyzkoušel a navíc jsem ještě zkusil změnit engine na InnoDB. Změna enginu zrychlila dotaz více jak dvakrát. Provést dotaz bez SQL_CALC_FOUND_ROWS a následně použít COUNT(*) opět zrychlilo dotaz dvakrát. Pokud jsem tabulky spojil přes TINYINT došlo je k malému zrychlení. Vítězem je tedy kombinace všech návrhů:

    CREATE TABLE `tab` (
      `id` INT NOT NULL AUTO_INCREMENT,
      `login` TINYINT NOT NULL,
      PRIMARY KEY (`id`),
      KEY `login` ( `login` )
    ) ENGINE=InnoDB;
    
    CREATE TABLE `user` (
      `login` TINYINT NOT NULL,
      `name` varchar(30) NOT NULL,
      PRIMARY KEY ( `login` ) 
    ) ENGINE=InnoDB;
    

    Naplnit daty

    SELECT `tab`.`id`, `tab`.`login`, `user`.`name` 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    ORDER BY `tab`.`id` DESC 
    LIMIT 1;
    +---------+-------+------+
    | id      | login | name |
    +---------+-------+------+
    | 1000000 |     5 | EEE  | 
    +---------+-------+------+
    1 row in set (0.00 sec)
    
    SELECT count(*) 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    ORDER BY `tab`.`id` DESC;
    +----------+
    | count(*) |
    +----------+
    |  1000000 | 
    +----------+
    1 row in set (0.49 sec)
    

    Což je pětinásobné zrychlení. Nevýhodou je u enginu InnoDB delší vkládání dat a absence fulltexty. Všem díky.

    AraxoN avatar 10.5.2009 18:25 AraxoN | skóre: 45 | blog: slon_v_porcelane | Košice
    Rozbalit Rozbalit vše Re: Pomalý SELECT

     

    SELECT count(*) 
    FROM `tab` 
    LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
    ORDER BY `tab`.`id` DESC;
    +----------+
    | count(*) |
    +----------+
    |  1000000 | 
    +----------+
    1 row in set (0.49 sec)
    

    Což je pětinásobné zrychlení. Nevýhodou je u enginu InnoDB delší vkládání dat a absence fulltexty. Všem díky.

    A ešte sa Ti to urýchli asi miliónkrát, keď odtiaľ vyhodíš ten zbytočný LEFT JOIN a ORDER BY: :-D

    SELECT count(*) 
    FROM `tab`;
    +----------+
    | count(*) |
    +----------+
    |  1000000 | 
    +----------+
    1 row in set (0.00 sec)
    
    A fine is a tax for doing wrong. A tax is a fine for doing well.
    11.5.2009 08:51 Jirka
    Rozbalit Rozbalit vše Re: Pomalý SELECT

    Špatný nápad to není, on je dokonce skvělý. Celé je to ve třídě, která se stará o zobrazení jakéhokoli SQL dotazu v prohlížeči, ta třída se stará o stránkování. K tomu potřebuji znát i celkový počet řádků. Takže se ten SQL dotaz musí upravit programem. Zatím je postup následující:

    přidám k SQL dotazu LIMIT a provedu dotaz

    odstraním vše mezi SELECT a FROM a dám tam COUNT(*)

    A teď ještě vyhodit všechny LEFT JOIN a ORDER BY, ale nechat všechny WHERE, GROUP, HAVING. Nepopletl jsem to?

    AraxoN avatar 11.5.2009 14:05 AraxoN | skóre: 45 | blog: slon_v_porcelane | Košice
    Rozbalit Rozbalit vše Re: Pomalý SELECT

    Ak je ten SELECT vyrobený automaticky, tak to takto fungovať nebude... Teda pri tomto jednom by to fungovalo, ale nie je to univerzálne a ani to univerzálne byť nemôže.

    Niečo podobné na zobrazovanie listingov používame aj my (komponent, ktorý robí najprv SELECT ... LIMIT OFFSET, a potom z toho odvodí ešte SELECT COUNT), a riešime to tak, že ten druhý SELECT na zistenie počtu riadkov sa tam dá nanútiť, ak automaticky vyrobený SELECT nie je optimálny, alebo nefunguje správne.

    A fine is a tax for doing wrong. A tax is a fine for doing well.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.