abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

včera 21:44 | Nová verze

Po půl roce od vydání verze 9.0 byla vydána verze 10.0 open source alternativy GitHubu, tj. softwarového nástroje s webovým rozhraním umožňujícího spolupráci na zdrojových kódech, GitLab (Wikipedie). Představení nových vlastností v příspěvku na blogu a na YouTube.

Ladislav Hagara | Komentářů: 0
22.9. 18:11 | Nová verze

Společnost Oracle oficiálně oznámila vydání Java SE 9 (JDK 9), Java Platform Enterprise Edition 8 (Java EE 8) a Java EE 8 Software Development Kit (SDK). Java SE 9 přináší více než 150 nových vlastností.

Ladislav Hagara | Komentářů: 0
22.9. 12:11 | Komunita

Na Humble Bundle lze získat hororovou počítačovou hru Outlast (Wikipedie) běžící také v Linuxu zdarma. Speciální akce končí v sobotu v 19:00.

Ladislav Hagara | Komentářů: 2
22.9. 10:33 | Humor

Mozilla.cz upozorňuje na Knihu Mozilly (Wikipedie), tj. velikonoční vajíčko ve Firefoxu. Zobrazit jej lze zadáním about:mozilla do adresního řádku. Aktuální verze Firefoxu obsahuje proroctví 15:1 "Dvojčata Mamonu se rozhádala a jejich souboje uvrhly svět do nové tmy. Zvířeti se ale tma hnusila. A tak se stalo mrštnější a silnější, šlo vpřed a jeho počty rostly. A zvíře přineslo oheň a světlo do tmy". Firefox 57 bude obsahovat proroctví 11:14. To je zatím jenom v angličtině. Pomoci lze s překladem do češtiny.

Ladislav Hagara | Komentářů: 10
22.9. 01:22 | Zajímavý projekt
Před měsícem byla spuštěna kampaň na podporu chytrého telefonu Librem 5, jenž by měl respektovat bezpečnost, svobodu a soukromí uživatelů. Cílem kampaně je vybrat alespoň milion a půl dolarů. Aktuálně je vybráno přes 600 000 dolarů, tj. 40 %. Kampaň poběží ještě další měsíc. Podporu projektu oznámilo KDE i GNOME.
Ladislav Hagara | Komentářů: 33
22.9. 00:55 | Komunita

Agentura DISA (Defense Information Systems Agency) publikovala (pdf) Ubuntu 16.04 Security Technical Implementation Guide (STIG) (zip), tj. doporučené bezpečnostní nastavení Ubuntu 16.04. Ubuntu se tak dostalo mezi unixové operační systémy a linuxové distribuce AIX, HP-UX, Oracle Linux, Red Hat a Solaris [reddit].

Ladislav Hagara | Komentářů: 2
21.9. 22:55 | Bezpečnostní upozornění

CSIRT.CZ informuje, že byly vydány nové bezpečnostní aktualizace, které opravují několik zranitelných míst v Sambě. Útočník může využít zranitelnosti s cílem získání přístupu k potenciálně citlivých informací. Uživatelům a správcům je doporučeno, aby zkontrolovali bezpečnostní opatření pro CVE-2017-12150, CVE-2017-12151 a CVE-2017-12163 a provedli potřebné aktualizace.

Ladislav Hagara | Komentářů: 0
21.9. 21:44 | Komunita

Společnost Red Hat aktualizovala svůj slib ohledně softwarových patentů. Slib nově zahrnuje i open source software pod permisivními licencemi.

Ladislav Hagara | Komentářů: 0
21.9. 08:55 | Komunita

Do 22. září probíhá v Mountain View konference XDC2017 (X.Org Developer's Conference). Na programu je řada zajímavých přednášek. Sledovat je lze online. K dispozici je záznam přednášek ze včerejšího dne.

Ladislav Hagara | Komentářů: 0
20.9. 17:33 | Nová verze

Byla vydána nová stabilní verze 1.12 (1.12.955.36) webového prohlížeče Vivaldi (Wikipedie). Z novinek vývojáři zdůrazňují možnost zobrazení metadat u digitálních fotografií, vylepšený panel stahování a omezení sytosti barvy zdůraznění (YouTube). Nejnovější Vivaldi je postaveno na Chromiu 61.0.3163.91.

Ladislav Hagara | Komentářů: 40
Těžíte nějakou kryptoměnu?
 (5%)
 (3%)
 (17%)
 (75%)
Celkem 560 hlasů
 Komentářů: 22, poslední 29.8. 11:23
    Rozcestník

    Dotaz: Percona MySQL a problem s Insertem do male tabulky

    26.2.2015 23:12 LuRy | skóre: 12
    Percona MySQL a problem s Insertem do male tabulky
    Přečteno: 1162×

    Zdravim, mam MySQL v 3 uzlech pomoci master-master replikace Percona xtradb cluster.
    Vse beha v poho az do chvile kdy po nejake dobe insertne zaznam do db ktera ma neco kolem 300 zaznamu. V tuto chvili se postupne zatizi vsechny tri uzle replikace a prestanou reagovat na par desitek vterin repsektive kousne se cela aplikace.
    Ale nad touto tabulkou se provadi relativne dost SELECTu radove desitky za vterinu.

    Myslim ze to muze delat velka hodnota query-cache-size ale s mensi hodnotou bylo zase hodne prunes per day.
    Dokaze nekdo prosim nakopnout spravnym smerem co hledat?

    V logu mam pak neco v tomto duchu (Uvedena table v logu nize nesouvisi prave s tou ve ktere se provedl insert)

    *** Priority TRANSACTION:
    TRANSACTION 393262833, ACTIVE 0 sec starting index read
    mysql tables in use 1, locked 1
    1 lock struct(s), heap size 360, 0 row lock(s)
    MySQL thread id 7, OS thread handle 0x7f255962e700, query id 299104427 invalidating query cache entries (table)
    
    *** Victim TRANSACTION:
    TRANSACTION 393257917, ACTIVE 114 sec
    mysql tables in use 1, locked 1
    2 lock struct(s), heap size 360, 1 row lock(s), undo log entries 1
    MySQL thread id 25482552, OS thread handle 0x7f252e134700, query id 299095466 localhost 127.0.0.1 database_sys wsrep in pre-commit stage
    UPDATE `table` SET `record`=1.5655388889 WHERE (`table`.`id` = 10776)
    *** WAITING FOR THIS LOCK TO BE GRANTED:
    RECORD LOCKS space id 4039 page no 126 n bits 176 index `PRIMARY` of table `database`.`table` trx id 393257917 lock_mode X locks rec but not gap
    2015-02-26 22:47:53 58270 [Note] WSREP: cluster conflict due to high priority abort for threads:
    2015-02-26 22:47:53 58270 [Note] WSREP: Winning thread:
       THD: 7, mode: applier, state: executing, conflict: no conflict, seqno: 33153378
       SQL: (null)
    2015-02-26 22:47:53 58270 [Note] WSREP: Victim thread:
       THD: 25482552, mode: local, state: committing, conflict: no conflict, seqno: -1
       SQL: UPDATE `table` SET `record`=1.5655388889 WHERE (`table`.`id` = 10776)
    

    Pro MySQL je nasledujici konfigurace

    [mysqld]
    innodb_use_native_aio=0
    datadir = /var/lib/mysql
    pid-file = /var/run/mysqld/mysqld.pid
    key-buffer-size = 32M
    myisam-recover = FORCE,BACKUP
    max-allowed-packet = 16M
    max-connect-errors = 1000000
    innodb = FORCE
    tmp-table-size = 32M
    max-heap-table-size = 32M
    max-connections = 500
    thread-cache-size = 50
    open-files-limit = 65535
    table-definition-cache = 1024
    table-open-cache = 2048
    log-error = /var/log/mysql/error.log
    log-queries-not-using-indexes = 0
    slow-query-log = 0
    slow-query-log-file = /var/log/mysql/slow.log

    # CACHES AND LIMITS #
    #table_cache                    = 16000
    tmp-table-size                 = 256M
    max-heap-table-size            = 256M
    query-cache-type               = 1
    query-cache-size               = 2048M
    max-connections                = 2000
    thread-cache-size              = 50
    open-files-limit               = 65535
    table-definition-cache         = 8000
    table-open-cache               = 8000
    key_buffer_size                 = 256M
    join_buffer_size                = 512k
    thread_cache_size               = 15000
    table_definition_cache          = 16384
    table_open_cache                = 16384
    innodb_write_io_threads         = 16
    innodb_read_io_threads          = 16
    back_log                        = 2048


    # INNODB #
    innodb_lock_wait_timeout        = 60
    innodb_buffer_pool_instances    = 8
    innodb_rollback_on_timeout      = 0
    innodb-flush-method            = O_DIRECT
    innodb-log-files-in-group      = 2
    innodb-log-file-size           = 128M
    #innodb-flush-log-at-trx-commit = 1
    innodb-file-per-table          = 1
    innodb-buffer-pool-size        = 4096M
    innodb-flush-log-at-trx-commit = 0

    Statistiky MysqlTuner z jednoho uzlu je nasledujici (Hodnota momentalniho innodb poolu neni puvodcem problemu, tento problem se projevoval i pred prevysenim hodnoty poolu)

    [--] Up for: 18d 2h 26m 48s (258M q [165.038 qps], 23M conn, TX: 164B, RX: 39B)
    [--] Reads / Writes: 69% / 31%
    [--] Total buffers: 6.5G global + 1.4M per thread (800 max threads)
    [OK] Maximum possible memory usage: 7.6G (48% of installed RAM)
    [OK] Slow queries: 0% (4K/258M)
    [OK] Highest usage of available connections: 34% (275/800)
    [OK] Key buffer size / total MyISAM indexes: 256.0M/102.0K
    [OK] Key buffer hit rate: 100.0% (171M cached / 4 reads)
    [OK] Query cache efficiency: 46.5% (89M cached / 192M selects)
    [OK] Query cache prunes per day: 0
    [OK] Sorts requiring temporary tables: 0% (3K temp sorts / 15M sorts)
    [OK] Temporary tables created on disk: 0% (1K on disk / 11M total)
    [OK] Thread cache hit rate: 99% (308 created / 23M connections)
    [OK] Table cache hit rate: 87% (3K open / 4K opened)
    [OK] Open file limit used: 0% (18/33K)
    [OK] Table locks acquired immediately: 99% (166M immediate / 166M locks)
    [!!] InnoDB  buffer pool / data size: 4.0G/5.0G
    [OK] InnoDB log waits: 0


    [--] Up for: 18d 2h 26m 48s (258M q [165.038 qps], 23M conn, TX: 164B, RX: 39B)
    [--] Reads / Writes: 69% / 31%
    [--] Total buffers: 6.5G global + 1.4M per thread (800 max threads)
    [OK] Maximum possible memory usage: 7.6G (48% of installed RAM)
    [OK] Slow queries: 0% (4K/258M)
    [OK] Highest usage of available connections: 34% (275/800)
    [OK] Key buffer size / total MyISAM indexes: 256.0M/102.0K
    [OK] Key buffer hit rate: 100.0% (171M cached / 4 reads)
    [OK] Query cache efficiency: 46.5% (89M cached / 192M selects)
    [OK] Query cache prunes per day: 0
    [OK] Sorts requiring temporary tables: 0% (3K temp sorts / 15M sorts)
    [OK] Temporary tables created on disk: 0% (1K on disk / 11M total)
    [OK] Thread cache hit rate: 99% (308 created / 23M connections)
    [OK] Table cache hit rate: 87% (3K open / 4K opened)
    [OK] Open file limit used: 0% (18/33K)
    [OK] Table locks acquired immediately: 99% (166M immediate / 166M locks)
    [!!] InnoDB  buffer pool / data size: 4.0G/5.0G
    [OK] InnoDB log waits: 0

    Odpovědi

    rADOn avatar 17.3.2015 16:18 rADOn | skóre: 44 | blog: bloK | Praha
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Nemas nahodou problem s timhle?
    "2^24 comments ought to be enough for anyone" -- CmdrTaco
    20.3.2015 07:55 Kazatel
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Tezko takhle soudit, ale taky bych se priklanel k deadlocku. Chovani tomu odpovida.

    Pri selectu a insertu resis explicitne zamky?
    21.3.2015 01:45 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Zamky tabulek vubec neresim, nechavam to na MySQL samotny.. pojem deadlock jsem tusim ze nekde v logu zaznamenal ale ne tak abych se tim zabyval nebo jsem o tom nevedel.. Co bych si mel zjistit a pripadne jak se proti tomu nejak opatrit?

    Ta situace je docela zvlastni, velky tabulky v radu GB se zapisy/cteni nemaji vubec problem ale mala tabulka (ktera ma sice 2 cizi klice) problem jako krava..
    21.3.2015 01:55 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Z jednho PDF maturitních témat tvrdí toto:
    Nejjednodušším způsobem, jak se vyhýbat deadlocku, je zamykání tabulek vždy ve stejném pořadí, či používání enginu InnoDB, který deadlocky sám detekuje.
    InnoDB mam vsude bez vyhrady, vyuzivam Foreign keys..
    okbob avatar 21.3.2015 13:12 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Detekce deadlocků má každá databáze - ještě pokud zamykáte s granularitou na úrovni tabulek, tak jim lze předejít. Ale v okamžiku, kdy zamykáte s granularitou řádků, tak předcházení deadlocků je dost složité, a ne vždy se to podaří. Nicméně detekce deadlocku vyřeší pouze to, že se aplikace nekousne nafurt - nicméně deadlock znamená minimálně 1sec čekání na zámek, a příliš mnoho deadlocků znamená dost pomalou aplikaci. Skutečným řešení je a) změna schématu, b) zrychlení operací, aby nedošlo k souběhu zámků.
    21.3.2015 14:09 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    No technicky select trva nejvyse par ms. Zamky vlastne ani transakce aplikacne nijak nevyuzivam (nebylo jich treba a vetsinou mam zavisle selecty na predchozim insertu), nechavam to v rezii mysql jestli je nejakym stylem vyuziva sama pri update/insertech. Kazdy z x desitek pozadavku za vterinu dela select do teto tabulky takze me napada ze by tenhle problem mohl nastavat prave kuli tomuto.. Nicmene kdyz se stane tohle zakousnuti trva to klidne i 2 minuty nez se to ozivi a taky se to nestava vzdycky.. Napr pri stejnem poctu uzivatelu poprvy udelam insert tak se to hryzne po tom co se to odhryzne udelam dalsi insert a uz se nic nestane.. Takze prvni muj hint smeroval k nejakymu failu z cache.
    21.3.2015 14:23 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    No tak s deadlocky jsem ted hodne na vazkach. Na vsech 3 uzlech

    mysql> SHOW GLOBAL STATUS LIKE 'innodb_deadlocks';
    +------------------+-------+
    | Variable_name    | Value |
    +------------------+-------+
    | Innodb_deadlocks | 0     |
    +------------------+-------+
    1 row in set (0,11 sec)
    
    21.3.2015 14:34 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Tak deadlocky nee, prolezl jsem log aplikace a narazil na tohle http://502.cz/scr/20150321133355107.png
    21.3.2015 18:33 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    beru zpet ... halda lock timeoutu a pak deadlocku .. no otazka je jak tomu ucinne predchazet? nebo proc se to vubec deje? Muze za to ten cluster? skrz haproxy se pristupuje nahodne k jednomu ze tri uzlu tzn jeden uzel muze zapisovat do tabulky a ostatni uzly ve stejnou chvili cist.. ale proc se to nedeje u jinych daleko vice zatizenych a objemnejsich tabulek?
    okbob avatar 21.3.2015 18:44 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Na menší tabulce je větší šance, že uživatelé (procesy) si budou snažit přepsat data. Může být za tím také referenční integrita - není dobré často updatovat tabulku, která drží důležité primární klíče. V zásadě je důležité pochopit, co, jak a proč se zamyká, a teprve pak je možné najít řešení. Viz http://www.chriscalender.com/tag/innodb-lock-monitor/.
    21.3.2015 18:51 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky

    Kdyz jsem na to koukal tak deadlocky se stavaji na tabulkach ktery by nemeli mit s tim nic spolecneho..

    Problem nastane kdyz pridam zaznam do tabulky se seznamem uzivatelskych blokaci (ktere se nactou pri kazdem hitu prihlaseneho uzivatele), ma 4 cizi klice (2 z toho vedou na stejnou tabulku uzivatelu ktera se prakticky neaktualizuje + jeden ktery je ne-vzdy vyplneny vede na tabulku zaznamu pokud se blokace zapisuje jeste do zvlastni tabulky tzn blokace je vyssi urovne administratorem a posledni klic vede na tabulku tez taky se seznamem ktery neni aktualizovan tak casto ani a hlavne ne pri vlozeni blokace). PK je pouze na ID sloupec, tzn PK + 4 IK s FK.

    Zkusim se mrknout na ten link a povolim verbose logovani locku snad z toho budu moudrejsi jsem z toho uz trochu zmateny, k percone jsem nasel i toto v toolkitu - http://www.percona.com/doc/percona-toolkit/2.1/pt-deadlock-logger.html

    25.3.2015 04:25 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Tak dnes v noci jsem delal nejaky vyvoj a pridaval novou tabulku s tim ze u jedne jiz existujici tabulky potrebuju udelat hromadny update jednoho INT sloupce na 0. je v ni asi 30k zaznamu (update jsem provadel primo pres mysql-cli) a po par vterinach to na me vybaflo s deadlockem a to pokazde kdy sem to zkusil.. Musel jsem shodit vsechny 3 uzly nastartovat jeden jako boostrapovy a na nem to udelat a az po tom udelat plnou synchronizaci dalsich 2 uzlu.. Mam pocit ze mam neco nekde pekne blbe
    25.3.2015 10:46 Ivan
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Neni mozny ze se tam deje "neco" na urovni stranek? Tzn. ackoliv storage engine pouziva zamykani na urovni radek, tak replikace si vymenuje cele stranky a nastane nejaky problem synchronozaci. (PS: v terminologii Oracle RAC se tomu rika "global enqueue deadlock").
    25.3.2015 15:20 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky
    Stranky delali behem toho hromadnyho updatu svoje updaty a selecty do tyhle tabulky ale bylo to v noci takze zadny extra zatizeni. Nicmene samotnej ten update trval 4 minuty na 30k zaznamech..
    19.6.2015 00:20 LuRy | skóre: 12
    Rozbalit Rozbalit vše Re: Percona MySQL a problem s Insertem do male tabulky

    Po nejakem case tu mam maly update. Nyni mi percona jede single v jednom boostrap-pxc uzlu a problem s tou tabulkou je neustale. Takze timto odpada teorie o problemu v (nebo při) replikaci

    Nize posilam schema tabulky. 3 IK+FK a 1 PK s AI. Aktualni pocet zaznamu 387. Kdyz to necham pul dne odlezet a udelam insert tak mysql prestane reagovat na 10s. Kdyz pote udelam hned dalsi tak vse ok.

    CREATE TABLE `mistnosti_zakazy` (
    	`id` INT(11) NOT NULL AUTO_INCREMENT,
    	`uzivatel_id` INT(11) NULL DEFAULT NULL,
    	`mistnost_id` INT(11) NULL DEFAULT NULL,
    	`ip` VARCHAR(15) NULL DEFAULT NULL COLLATE 'utf8_czech_ci',
    	`kolikrat` TINYINT(4) NULL DEFAULT '0',
    	`typ` INT(11) NULL DEFAULT NULL,
    	`duvod` VARCHAR(1000) NULL DEFAULT NULL COLLATE 'utf8_czech_ci',
    	`od_id` INT(11) NULL DEFAULT NULL,
    	`do` DATETIME NULL DEFAULT NULL,
    	`trest_id` INT(11) NULL DEFAULT NULL,
    	PRIMARY KEY (`id`),
    	INDEX `FK__uzivatele` (`uzivatel_id`),
    	INDEX `FK__mistnosti` (`mistnost_id`),
    	INDEX `FK_mistnosti_zakazy_uzivatele` (`od_id`),
    	INDEX `FK_mistnosti_zakazy_uzivatele_tresty` (`trest_id`),
    	CONSTRAINT `FK_mistnosti_zakazy_mistnosti` FOREIGN KEY (`mistnost_id`) REFERENCES `mistnosti` (`id`) ON UPDATE CASCADE ON DELETE CASCADE,
    	CONSTRAINT `FK_mistnosti_zakazy_uzivatele` FOREIGN KEY (`uzivatel_id`) REFERENCES `uzivatele` (`id`) ON UPDATE CASCADE ON DELETE CASCADE,
    	CONSTRAINT `FK_mistnosti_zakazy_uzivatele_2` FOREIGN KEY (`od_id`) REFERENCES `uzivatele` (`id`) ON UPDATE CASCADE ON DELETE CASCADE,
    	CONSTRAINT `FK_mistnosti_zakazy_uzivatele_tresty` FOREIGN KEY (`trest_id`) REFERENCES `uzivatele_tresty` (`id`) ON UPDATE CASCADE ON DELETE CASCADE
    )
    COLLATE='utf8_czech_ci'
    ENGINE=InnoDB
    AUTO_INCREMENT=11039
    ;
    
    

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.