abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
eParkomat, startup z ČR, postoupil mezi finalisty evropského akcelerátoru ChallengeUp!
Robot na pivo mu otevřel dveře k opravdovému byznysu
Internet věcí: Propojený svět? Už se to blíží...
dnes 12:00 | Zajímavý projekt

Projekt Termbox umožňuje vyzkoušet si linuxové distribuce Ubuntu, Debian, Fedora, CentOS a Arch Linux ve webovém prohlížeči. Řešení je postaveno na projektu HyperContainer. Podrobnosti v často kladených dotazech (FAQ). Zdrojové kódy jsou k dispozici na GitHubu [reddit].

Ladislav Hagara | Komentářů: 0
dnes 11:00 | Bezpečnostní upozornění

Byly zveřejněny informace o bezpečnostní chybě CVE-2016-8655 v Linuxu zneužitelné k lokální eskalaci práv. Chyba se dostala do linuxového jádra v srpnu 2011. V upstreamu byla opravena minulý týden [Hacker News].

Ladislav Hagara | Komentářů: 0
včera 22:00 | Komunita

Přibližně před měsícem bylo oznámeno, že linuxová distribuce SUSE Linux Enterprise Server (SLES) běží nově také Raspberry Pi 3 (dokumentace). Obraz verze 12 SP2 pro Raspberry Pi 3 je ke stažení zdarma. Pro registrované jsou po dobu jednoho roku zdarma také aktualizace. Dnes bylo oznámeno, že pro Raspberry Pi 3 je k dispozici také nové openSUSE Leap 42.2 (zprávička). K dispozici je hned několik obrazů.

Ladislav Hagara | Komentářů: 5
včera 06:00 | Zajímavý software

OMG! Ubuntu! představuje emulátor terminálu Hyper (GitHub) postavený na webových technologiích (HTML, CSS a JavaScript). V diskusi k článku je zmíněn podobný emulátor terminálu Black Screen. Hyper i Black Screen používají framework Electron, stejně jako editor Atom nebo vývojové prostředí Visual Studio Code.

Ladislav Hagara | Komentářů: 31
včera 06:00 | Zajímavý článek

I letos vychází řada ajťáckých adventních kalendářů. QEMU Advent Calendar 2016 přináší každý den nový obraz disku pro QEMU. Programátoři se mohou potrápit při řešení úloh z kalendáře Advent of Code 2016. Kalendáře Perl Advent Calendar 2016 a Perl 6 Advent Calendar přinášejí každý den zajímavé informace o programovacím jazyce Perl. Stranou nezůstává ani programovací jazyk Go.

Ladislav Hagara | Komentářů: 9
3.12. 16:24 | Nová verze

Byla vydána Mageia 5.1. Jedná se o první opravné vydání verze 5, jež vyšla v červnu loňského roku (zprávička). Uživatelům verze 5 nepřináší opravné vydání nic nového, samozřejmě pokud pravidelně aktualizují. Vydání obsahuje všechny aktualizace za posledního téměř půldruhého roku. Mageia 5.1 obsahuje LibreOffice 4.4.7, Linux 4.4.32, KDE4 4.14.5 nebo GNOME 3.14.3.

Ladislav Hagara | Komentářů: 17
3.12. 13:42 | Pozvánky

V Praze probíhá konference Internet a Technologie 16.2, volné pokračování jarní konference sdružení CZ.NIC. Konferenci lze sledovat online na YouTube. K dispozici je také archiv předchozích konferencí.

Ladislav Hagara | Komentářů: 0
2.12. 22:44 | Komunita

Joinup informuje, že Mnichov používá open source groupware Kolab. V srpnu byl dokončen dvouletý přechod na toto řešení. V provozu je asi 60 000 poštovních schránek. Nejenom Kolabu se věnoval Georg Greve ve své přednášce Open Source: the future for the European institutions (SlideShare) na konferenci DIGITEC 2016, jež proběhla v úterý 29. listopadu v Bruselu. Videozáznam přednášek z hlavního sálu je ke zhlédnutí na Livestreamu.

Ladislav Hagara | Komentářů: 25
2.12. 15:30 | Zajímavý projekt

Společnost Jolla oznámila v příspěvku Case study: Sailfish Watch na svém blogu, že naportovala Sailfish OS na chytré hodinky. Využila a inspirovala se otevřeným operačním systémem pro chytré hodinky AsteroidOS. Použita je knihovna libhybris. Ukázka ovládání hodinek na YouTube.

Ladislav Hagara | Komentářů: 17
2.12. 14:15 | Nová verze

Byla vydána verze 7.1.0 skriptovacího jazyka PHP používaného zejména k vývoji dynamických webových stránek. Jedná se o první stabilní verzi nejnovější větvě 7.1. Přehled novinek v dokumentaci. Podrobnosti v ChangeLogu. K dispozici je také příručka pro přechod z PHP 7.0.x na PHP 7.1.x.

Ladislav Hagara | Komentářů: 5
Kolik máte dat ve svém domovském adresáři na svém primárním osobním počítači?
 (32%)
 (24%)
 (29%)
 (7%)
 (5%)
 (3%)
Celkem 774 hlasů
 Komentářů: 50, poslední 29.11. 15:50
Rozcestník
Reklama

Dotaz: Pomalý SELECT

9.5.2009 18:24 Jirka
Pomalý SELECT
Přečteno: 625×

Předem se omlouvám, za delší popis situace. Mám dvě tabulky, jedna je velká (milion záznamů) a druhá je číselník.
Struktura tabulek:

CREATE TABLE `tab` (
  `id` INT NOT NULL AUTO_INCREMENT,
  `login` char(1) NOT NULL,
  PRIMARY KEY (`id`),
  KEY `login` ( `login` )
) ENGINE=MyISAM;

CREATE TABLE `user` (
  `login` char(1) NOT NULL,
  `name` varchar(30) NOT NULL,
  PRIMARY KEY ( `login` ) 
) ENGINE=MyISAM;

Naplním daty číselník:

INSERT INTO `user` (`login`, `name`) VALUES ('a', 'AAA');
INSERT INTO `user` (`login`, `name`) VALUES ('b', 'BBB');
INSERT INTO `user` (`login`, `name`) VALUES ('c', 'CCC');
INSERT INTO `user` (`login`, `name`) VALUES ('d', 'DDD');
INSERT INTO `user` (`login`, `name`) VALUES ('e', 'EEE');
INSERT INTO `user` (`login`, `name`) VALUES ('f', 'FFF');
INSERT INTO `user` (`login`, `name`) VALUES ('g', 'GGG');
INSERT INTO `user` (`login`, `name`) VALUES ('h', 'HHH');
INSERT INTO `user` (`login`, `name`) VALUES ('i', 'III');
INSERT INTO `user` (`login`, `name`) VALUES ('j', 'JJJ');

A pomocí PHP velkou tabulku náhodnými údaji:

for ($i = 0; $i < 1000000; $i++)
     mysql_query("INSERT INTO `tab` (`login`) VALUES ('".chr(rand(97,106))."')");

Nyní potřebuji provést následující dotaz:

SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login`, `user`.`name` 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
ORDER BY `tab`.`id` DESC 
LIMIT 1;
+---------+-------+------+
| id      | login | name |
+---------+-------+------+
| 1000000 | i     | III  | 
+---------+-------+------+
1 row in set (2.58 sec)

Co mě vadí, je doba trvání dotazu. Pokud odstraním SQL_CALC_FOUND_ROWS, dotaz se zrychlí:

SELECT `tab`.`id`, `tab`.`login`, `user`.`name` 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
ORDER BY `tab`.`id` DESC 
LIMIT 1;
+---------+-------+------+
| id      | login | name |
+---------+-------+------+
| 1000000 | i     | III  | 
+---------+-------+------+
1 row in set (0.01 sec)

Nebo když odstraním LEFT JOIN, dotaz se opět zrychlí:

SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login` 
FROM `tab` 
ORDER BY `tab`.`id` DESC 
LIMIT 1;
+---------+-------+
| id      | login |
+---------+-------+
| 1000000 | i     | 
+---------+-------+
1 row in set (0.32 sec)

Kupodivu, když přidám WHERE, tak se dotaz také zrychlí:

SELECT SQL_CALC_FOUND_ROWS `tab`.`id`, `tab`.`login`, `user`.`name` 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
WHERE `tab`.`login`='a' 
ORDER BY `tab`.`id` DESC 
LIMIT 1;
+--------+-------+------+
| id     | login | name |
+--------+-------+------+
| 999998 | a     | AAA  | 
+--------+-------+------+
1 row in set (0.17 sec)

Jenže já bych potřeboval zrychlit ten první dotaz, ale nevím jak na to. Může mi někdo poradit, či vysvětlit proč dostávám tak rozdílné časy?

Odpovědi

9.5.2009 18:30 Jirka
Rozbalit Rozbalit vše Re: Pomalý SELECT

Ještě dodávám, že to testuji na openSUSE 11.1 a na  MySQL 5 z distribuce.

9.5.2009 18:51 Vojtěch Horký | skóre: 39 | blog: Vojtův zápisník | Praha
Rozbalit Rozbalit vše Re: Pomalý SELECT
Nejde náhodou o to, že s tou klauzulí SQL_CALC_FOUND_ROWS server vykonává ten dotaz jako by tam nebyl ten LIMIT 1, aby zjistil, kolik bude řádků (tudíž bez toho WHERE to bude asi full-scan) a teprve pak to ořeže?

Nevyšlo by rychleji ptát se na počet řádků pomocí dalšího COUNT(*) dotazu (to by měl stačit průchod přes index)?

BTW - indexy máte vytvořené?
I am always ready to learn although I do not always like to be taught. (W. Churchill)
9.5.2009 19:02 Filip Jirsák | skóre: 66 | blog: Fa & Bi
Rozbalit Rozbalit vše Re: Pomalý SELECT
Spojovat tabulky přes řetězce je, řekněme, suboptimální – daleko lépe se bude databázi pracovat, pokud v té tabulce vytvoříte číselný primární klíč a spojovat budete přes něj. Dotaz bez SQL_CALC_FOUND_ROWS je rychlejší, protože v tom druhém dotazu používáte LIMIT – s ním databázi stačí, když najde první výsledek, a ten vám vrátí. Když ale musí spočítat SQL_CALC_FOUND_ROWS, musí stejně dotaz provést celý, jako by tam LIMIT nebyl.
10.5.2009 09:14 Jirka
Rozbalit Rozbalit vše Re: Pomalý SELECT

Díky za náměty a rady. Všechny jsem je postupně vyzkoušel a navíc jsem ještě zkusil změnit engine na InnoDB. Změna enginu zrychlila dotaz více jak dvakrát. Provést dotaz bez SQL_CALC_FOUND_ROWS a následně použít COUNT(*) opět zrychlilo dotaz dvakrát. Pokud jsem tabulky spojil přes TINYINT došlo je k malému zrychlení. Vítězem je tedy kombinace všech návrhů:

CREATE TABLE `tab` (
  `id` INT NOT NULL AUTO_INCREMENT,
  `login` TINYINT NOT NULL,
  PRIMARY KEY (`id`),
  KEY `login` ( `login` )
) ENGINE=InnoDB;

CREATE TABLE `user` (
  `login` TINYINT NOT NULL,
  `name` varchar(30) NOT NULL,
  PRIMARY KEY ( `login` ) 
) ENGINE=InnoDB;

Naplnit daty

SELECT `tab`.`id`, `tab`.`login`, `user`.`name` 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
ORDER BY `tab`.`id` DESC 
LIMIT 1;
+---------+-------+------+
| id      | login | name |
+---------+-------+------+
| 1000000 |     5 | EEE  | 
+---------+-------+------+
1 row in set (0.00 sec)

SELECT count(*) 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
ORDER BY `tab`.`id` DESC;
+----------+
| count(*) |
+----------+
|  1000000 | 
+----------+
1 row in set (0.49 sec)

Což je pětinásobné zrychlení. Nevýhodou je u enginu InnoDB delší vkládání dat a absence fulltexty. Všem díky.

AraxoN avatar 10.5.2009 18:25 AraxoN | skóre: 45 | blog: slon_v_porcelane | Košice
Rozbalit Rozbalit vše Re: Pomalý SELECT

 

SELECT count(*) 
FROM `tab` 
LEFT JOIN `user` ON `tab`.`login` = `user`.`login` 
ORDER BY `tab`.`id` DESC;
+----------+
| count(*) |
+----------+
|  1000000 | 
+----------+
1 row in set (0.49 sec)

Což je pětinásobné zrychlení. Nevýhodou je u enginu InnoDB delší vkládání dat a absence fulltexty. Všem díky.

A ešte sa Ti to urýchli asi miliónkrát, keď odtiaľ vyhodíš ten zbytočný LEFT JOIN a ORDER BY: :-D

SELECT count(*) 
FROM `tab`;
+----------+
| count(*) |
+----------+
|  1000000 | 
+----------+
1 row in set (0.00 sec)
A fine is a tax for doing wrong. A tax is a fine for doing well.
11.5.2009 08:51 Jirka
Rozbalit Rozbalit vše Re: Pomalý SELECT

Špatný nápad to není, on je dokonce skvělý. Celé je to ve třídě, která se stará o zobrazení jakéhokoli SQL dotazu v prohlížeči, ta třída se stará o stránkování. K tomu potřebuji znát i celkový počet řádků. Takže se ten SQL dotaz musí upravit programem. Zatím je postup následující:

přidám k SQL dotazu LIMIT a provedu dotaz

odstraním vše mezi SELECT a FROM a dám tam COUNT(*)

A teď ještě vyhodit všechny LEFT JOIN a ORDER BY, ale nechat všechny WHERE, GROUP, HAVING. Nepopletl jsem to?

AraxoN avatar 11.5.2009 14:05 AraxoN | skóre: 45 | blog: slon_v_porcelane | Košice
Rozbalit Rozbalit vše Re: Pomalý SELECT

Ak je ten SELECT vyrobený automaticky, tak to takto fungovať nebude... Teda pri tomto jednom by to fungovalo, ale nie je to univerzálne a ani to univerzálne byť nemôže.

Niečo podobné na zobrazovanie listingov používame aj my (komponent, ktorý robí najprv SELECT ... LIMIT OFFSET, a potom z toho odvodí ešte SELECT COUNT), a riešime to tak, že ten druhý SELECT na zistenie počtu riadkov sa tam dá nanútiť, ak automaticky vyrobený SELECT nie je optimálny, alebo nefunguje správne.

A fine is a tax for doing wrong. A tax is a fine for doing well.

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.