abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
eParkomat, startup z ČR, postoupil mezi finalisty evropského akcelerátoru ChallengeUp!
Robot na pivo mu otevřel dveře k opravdovému byznysu
Internet věcí: Propojený svět? Už se to blíží...
včera 16:38 | Komunita

Byly zveřejněny videozáznamy přednášek a workshopů z letošní konference OpenAlt konané 5. a 6. listopadu v Brně. K videozáznamům lze přistupovat ze stránky na SuperLectures nebo přes program konference, detaily o vybrané přednášce nebo workshopu a dále kliknutím na ikonku filmového pásu. Celkově bylo zpracováno 65 hodin z 89 přednášek a workshopů.

Ladislav Hagara | Komentářů: 0
včera 11:30 | Komunita

Bylo oznámeno, že bude proveden bezpečnostní audit zdrojových kódů open source softwaru pro implementaci virtuálních privátních sítí OpenVPN. Audit provede Matthew D. Green (blog), uznávaný kryptolog a profesor na Univerzitě Johnse Hopkinse. Auditována bude verze 2.4 (aktuálně RC 1, stabilní verze je 2.3.14). Audit bude financován společností Private Internet Access [reddit].

Ladislav Hagara | Komentářů: 2
včera 06:00 | Komunita

Na YouTube byl publikován Blender Institute Reel 2016, ani ne dvouminutový sestřih z filmů, které vznikly za posledních 10 let díky Blender Institutu. V institutu aktuálně pracují na novém filmu Agent 327. Dění kolem filmu lze sledovat na Blender Cloudu. Videoukázka Agenta 327 z června letošního roku na YouTube.

Ladislav Hagara | Komentářů: 0
včera 01:02 | Zajímavý článek

Minulý týden byly vydány verze 1.2.3 a 1.1.7 webového poštovního klienta Roundcube. V oznámení o vydání bylo zmíněno řešení bezpečnostního problému nalezeného společností RIPS a souvisejícího s voláním funkce mail() v PHP. Tento týden byly zveřejněny podrobnosti. Útočník mohl pomocí speciálně připraveného emailu spustit na serveru libovolný příkaz. Stejně, jak je popsáno v článku Exploit PHP’s mail() to get remote code execution z roku 2014.

Ladislav Hagara | Komentářů: 1
8.12. 16:00 | Nová verze

Byla vydána verze 0.98 svobodného nelineárního video editoru Pitivi. Z novinek lze zmínit například přizpůsobitelné klávesové zkratky. Videoukázka práce s nejnovější verzí Pitivi na YouTube.

Ladislav Hagara | Komentářů: 1
8.12. 15:00 | Zajímavý software

Stop motion je technika animace, při níž je reálný objekt mezi jednotlivými snímky ručně upravován a posouván o malé úseky, tak aby po spojení vyvolala animace dojem spojitosti. Jaký software lze pro stop motion použít na Linuxu? Článek na OMG! Ubuntu! představuje Heron Animation. Ten bohužel podporuje pouze webové kamery. Podpora digitálních zrcadlovek je začleněna například v programu qStopMotion.

Ladislav Hagara | Komentářů: 5
7.12. 21:21 | Nová verze Ladislav Hagara | Komentářů: 0
7.12. 11:44 | Zajímavý projekt

Na Indiegogo byla spuštěna kampaň na podporu herní mini konzole a multimediálního centra RetroEngine Sigma od Doyodo. Předobjednat ji lze již od 49 dolarů. Požadovaná částka 20 000 dolarů byla překonána již 6 krát. Majitelé mini konzole si budou moci zahrát hry pro Atari VCS 2600, Sega Genesis nebo NES. Předinstalováno bude multimediální centrum Kodi.

Ladislav Hagara | Komentářů: 2
7.12. 00:10 | Nová verze

Byla vydána verze 4.7 redakčního systému WordPress. Kódové označením Vaughan bylo vybráno na počest americké jazzové zpěvačky Sarah "Sassy" Vaughan. Z novinek lze zmínit například novou výchozí šablonu Twenty Seventeen, náhledy pdf souborů nebo WordPress REST API.

Ladislav Hagara | Komentářů: 10
6.12. 12:00 | Zajímavý projekt

Projekt Termbox umožňuje vyzkoušet si linuxové distribuce Ubuntu, Debian, Fedora, CentOS a Arch Linux ve webovém prohlížeči. Řešení je postaveno na projektu HyperContainer. Podrobnosti v často kladených dotazech (FAQ). Zdrojové kódy jsou k dispozici na GitHubu [reddit].

Ladislav Hagara | Komentářů: 28
Kolik máte dat ve svém domovském adresáři na svém primárním osobním počítači?
 (32%)
 (24%)
 (29%)
 (7%)
 (5%)
 (3%)
Celkem 807 hlasů
 Komentářů: 50, poslední 29.11. 15:50
Rozcestník
Reklama

Dotaz: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení

9.1. 21:59 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Přečteno: 1383×
Příloha:
Ahoj všem,

potřeboval bych v AFTER INSERT OR UPDATE triggeru zavolat proceduru z externího nástroje, pomocí které předžvýkám nějaká data a pak je uložím do databáze. Externí nástroj přistupuje ke stejné tabulce, na kterou je zavěšený ten trigger.

Problém je v tom, že externí nástroj vidí data ve stavu před update. Vypadá to deterministicky, jsem vždy „o krok pozadu“. Cache ten nástroj nepoužívá žádnou.

Konkrétně jde o trigger, který používá pljava funkci a tato funkce si přes http api stáhne data. Služba poskytující api se do stejné databáze připojuje přes jdbc.

Stejné chování má však i pokusný trigger v plpgsql, pokud si data tahá jakoby externě pomocí dblink spojení. Pokud data načítá lokálně sql dotazem, funguje to správně, pokud externě, jsem pozadu.

Předpoklad byl, že po updatu jsou data už v tabulce a že je tudíž bez problému načtu, tedy že viditelnost bude stejná jak jsem v triggerech zvyklý. Toto zřejmě neplatí.

Situace by asi byla jiná, pokud by trigger updatoval data z jiné tabulky, než na kterou je pověšený. Možným řešením by pak mohlo být rozdělit danou tabulku na dvě tabulky a triggerem upravovat tu druhou. Jde mi o to, zda to je nutné a zda to skutečně pomůže. Bylo by to pak deterministické?

Smyslem celého konání je jakási pomocá indexová tabulka, která obsahuje předžvýkaná data z několika dalších tabulek. Jeden sloupec této pomocné tabulky se předžvýká pomocí plpgsql triggerů a když je to hotovo, odpaluje se na této pomocné tabulce další trigger, který má naplnit druhý sloupec pomocí http api.

Protože jsem nejspíš narazil na hranice mých znalostí, nechám si rád poradit.
-- OldFrog

Řešení dotazu:


Odpovědi

9.1. 22:40 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
PS: V příloze dotazu je ten vzorový test s dblink. Jinak jsem zjistil, že rozdělení tabulky by asi nepomohlo. protože ve staré verzi vidím i ostatní tabulky. Zkusím pátrat po internetu.
-- OldFrog
9.1. 23:05 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Zdá se, že to celé běží v jedná transakci a COMMIT proběhne až po dokončení trigeru. Nezdá se, že by to šlo v Postgres změnit. Ale asi by šlo použít NOTIFY?
-- OldFrog
okbob avatar 9.1. 23:11 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
V AFTER triggeru jsou sice data již uložená, ale stále nejsou viditelná ostatním uživatelům (transakcím). Teprve po dokončení triggeru dojde ke commitu a k zviditelnění změn. Tudíž přístupu zvenku tyto změny vidět nemůžete. PostgreSQL oficiálně nepodporuje dirty reading - takže tenhle způsob je 100% slepá cesta. K časné signalizaci klienta (čehokoliv), že došlo ke změně dat, se používá notifikace (příkaz NOTIFY). Příkaz NOTIFY se volá uvnitř transakce - a pokud commit neselže, tak bezprostředně poté, co jsou data viditelná ostatním uživatelům (dle úrovně izolace transakce), tak Postres notifikuje klienta.

Jinak volat z triggeru externí nástroj znamená koledovat si o malér (navíc, který někde bude zapisovat). Výsledkem jsou docela křehké a nepřehledné aplikace. Ještě po volání triggerů může transakce zhavarovat a rázem máte nekonzistenci v datech.

9.1. 23:51 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Děkuju za odpověď, už jsem taky přišel na NOTIFY/LISTEN a zkoumám to. Můžu naslouchat notifikaci v klientské java aplikaci pomocí jdbc spojení? Pak by mohla naslouchat rovnou ta externí java aplikace, což by bylo asi docela dobré. Pokud ne, nahradím trigger nofitikacema jen rámci databáze a klientskou aplikaci použiju přes url a mělo by to taky chodit.

Riziko volání externích nástrojů z triggeru chápu, nicméně myslím, že tohle je právě ten případ, který se to dá ještě akceptovat. Pomalost updatu nevadí, updatuje se málo a ta tabulka slouží jen pro fulltext hledání a jako cache. Pokud něco selže, uloží se do cachovacího sloupce NULL a data si dohledá aplikace sama (akorát mnohem pomaleji). Do primárních dat ten trigger nezasahuje.

Nepoužít trigger (resp. notifikace) by byl přechod z bláta do louže: Jelikož se pro vygenerování potřebných dat používají nástroje, které v psql nejsou dostupné, tak bych musel data generovat přímo v aplikaci a problém s konzistencí dat by nastal stejně (stačílo by změnit data mimo aplikaci třeba pomocí sql). Šlo by to sice celé napsat v pljava, ale to by byl trochu overkill a pravděpodobně bych se nevyhnul duplicitě kódu.
-- OldFrog
okbob avatar 10.1. 06:54 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
11.1. 22:58 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
No nějak to funguje, ale bojím se, jestli to dostatečně garantuje, že se skutečně všechny zprávy doručí. Navíc je otázka, co s tím udělá connection pool. Nejspíš by to chtělo si udělat nějaké vyhrazené nepoolované spojení a to ručně kontrolovat, zda žije. Pokud by se spojení ukončilo a já se znovu připojil, tak bych o notifikace asi přišel, že jo?

No prostě - nesmějte se mi - je docela nevýhoda, že to neběží v té transakci :-D
-- OldFrog
12.1. 00:19 bohyn
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Nemuze ta vzdalena sluzba dostat vsechna potrebna data v pozadavku a zpatky vratit prechroupana data o jejichz ulozeni se postara _trig_t1? Z AFTER INSERT/UPDATE se stane BEFORE INSERT/UPDATE a vse zustane v jedne transakci
12.1. 09:54 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Ano, to mě také napadlo, tak by to šlo. Nicméně pak by se už asi vyplatilo doimplementovat i zbytek logiky do procedur, čili přesunout část aplikace do tam.
-- OldFrog
okbob avatar 12.1. 08:09 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Já bych si udělal jednu pomocnou tabulku, kde bych si notifikace ještě ukládal. Pak druhou pro zpracované notifikace. Po notifikaci by si klient pouze zjistil rozdíl mezi zpracovanými a nezpracovanými notifikacemi. Tudíž se nemůže stát, že by se notifikace ztratila. A jednou denně bych promazal notifikace, které už jsou zpracované z obou tabulek.
12.1. 09:58 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Jasně, čili závěr z toho je, že ty notifikace jsou dost jednoduchý mechanismus a pokud by člověk potřeboval větší robustnost, musel by si nad tím dopsat nějakou frontu a kontroly a doplnit doplnit si tak transakční logiku sám.
-- OldFrog
okbob avatar 12.1. 11:50 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Přesně tak - notifikace jsou jednoduchý signál směrem od databáze k aplikaci - něco se změnilo. Ale nemáte garantováno, že klient poslouchá, anebo že korektně zareaguje. Na to už je potřeba sada 2PC transakcí.
12.1. 10:06 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Děkuju všem za nápady. Nakonec jsem šel cestou nejmenšího odporu. Potřebná data se negenerují dopředu - aplikace si je generuje až v případě potřeby a do cachovací tabulky si je uloží pro pozdější použití sama. Pomocí triggerů zajišťuju pouze zneplatnění cache, pokud se primární data změnila. Jelikož se mění jen malé množství záznamů, nemá to žádný dopad na rychlost a nemůže se to rozbít.

Jako řešení nebudu označovat asi nic, variant tu zaznělo několik a správná volba záleží na konkrétní situaci.
-- OldFrog
okbob avatar 12.1. 11:52 okbob | skóre: 30 | blog: systemakuv_blog | Benešov
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Obyčejně rozumně jednoduché řešení bývá nejlepší.
12.1. 12:26 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
:-)
-- OldFrog
17.1. 18:04 peter
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Aj ked uz mas ine riesenie, riesenie pre original ulohy by podla mna bol dvojfazovy commit (xa transakcie). Btw to ze transakcia zhavaruje by nemalo ovplyvnit konzistentnost dat.
18.1. 15:47 OldFrog {Ondra Nemecek} | skóre: 25 | blog: Žabákův notes | Praha
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Díky za info - můžete k tomu doporučit nějaký zdroj? V daném případě by to byl sice kanón na vrabce, ale rád bych si přečetl, jak taková věc funguje.
-- OldFrog
19.1. 12:26 peter
Rozbalit Rozbalit vše Re: Postgres - viditelnost dat v AFTER INSERT OR UPDATE triggeru z _externího_ spojení
Vlastne si prestavam byt isty, ze by to fungovalo. Nemam ani nainstalovany postgres aby som to vyskusal, takze ak sa vam chce.. Ale zdroj je dokumentacia: http://www.postgresql.org/docs/9.2/static/sql-prepare-transaction.html

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.