Noční můra Edsgera Dijkstry?

29.5.2006 02:20 | Přečteno: 2575× | ostatní | poslední úprava: 10.11.2006 13:07

S Dijkstrovým algoritmem pro vyhledávání nejkratší cesty v ohodnoceném grafu se již setkal asi každý, kdo se v programování dostal alespoň o trochu dále, než k obligátnímu "Hello World!".

Notoricky známý o tomto algoritmu je pak fakt, že jeho asymptotická složitost při použití prioritní fronty implementované jako binární halda je O(|H|log|U|). Již méně známé, i když z algoritmu jasně vyplývající, je ale to, že tato prioritní fronta musí kromě obvyklých operací push() a pop() umožňovat i změnu priority prvků uvnitř fronty (a následné obnovení fronty). A to se v okamžiku, kdy narazí kosa na kámen a vy jste nuceni algoritmus implementovat v nějakém programovacím jazyku, ukazuje jako poměrně problematická záležitost. Minimálně pokuď je zvoleným jazykem C++. Prioritní fronta ze standartní šablonové knihovny STL totiž touto vlastností neoplývá...

Pokuď vám nejde o každou instrukci a můžete si dovolit určité (a právě velikost tohoto "určité" je oč tu dneska běží) zhoršení časové složitosti, lze nicméně tento problém obejít a Dijkstrův algoritmus upravit následovně:

Vertex *start, *current, *neighbour;
Edge *e;


start->setDistance(0);
queue.push(start);

while (!queue.empty()) {
    current = queue.top();
    queue.pop();

    if (!current->getVisited()) {
        current->setVisited(true);

        e = current->getFirstEdge();
        while (e != NULL) {
            neighbour = e->getEnd();

            if ((neighbour->getDistance() == -1) // -1 = nekonečno
               || (neighbour->getDistance() > current->getDistance() + e->getLength())) {
                neighbour->setDistance(current->getDistance() + e->getLength());
                neighbour->setPrev(current);
            }
            queue.push(neighbour);

            e = e->getNext();
        }
    }
}

(Graf je implementován pomocí seznamu následníků)

Úprava spočívá v přidání atributu visited (bool) ke každému uzlu. Tento atribut slouží k určení, zda už byl uzel objeven či nikoliv a umožňuje rozhodnout, zda se s daným uzlem na vrcholu fronty zabývat či nikoliv. Druhou změnou totiž je, že pokud některý ze sousedů právě zpracovávaného uzlu zkracuje cestu do aktuálního uzlu, není u něj pouze upravena vzdálenost, ale je znovu zařazen do fronty (na místo odpovídající upravené vzdálenosti). Při odebírání uzlu z fronty je pak "platný" pouze první výskyt daného uzlu, ostatní je možné(nutné) ignorovat.

Uvedená modifikace zůstává (alespoň doufám korektní co se týče nalezených nejkratších cest, otázkou ale je, jak tyto úpravy změní časovou složitost algoritmu. Zcela jistě se zvýší režie zařazování uzlů do fronty, ale změní se i složitost asymptotická? Může fronta asymptoticky přerůst |U|? Jak se toto zhoršení projeví na běžných grafech typu "silniční síť"? Bude toto zhoršení tak výrazné, že celý algoritmus "znehodnotí"? To jsou otázky, které čekají na opravdové programátory ve vašich řadách. Já si své teorie a odhady pojídače koláčků zatím nechám pro sebe (podělím se o ně s vámi radši až v diskuzi ke "článku" .

       

Komentáře

[mivrap]

a co je to za slovo, to "pokuď" ?

[Martin Tůma]

Ty asi nebudeš Pražák, co?!

[lukipuki]

Tvoj algoritmus má zložitosť O(|H| log |U^2|), čo je O(H log |U|). Totiž log(x^2)=2log(x).

Tvoje riešenie je korektné. Mimochodom, vlastnosť visited musíš mať implementovanú aj v pôvodnej verzii algoritmu.

[Martin Tůma]

Mimochodom, vlastnosť visited musíš mať implementovanú aj v pôvodnej verzii algoritmu.

Nemusím. Ne-mu-sím! Standartně jsou všechny vrcholy zařazeny do fronty při inicializaci algoritmu a jejich náležení/nenáležení frontě již samo o sobě udává, zda-li byl vrchol již "objeven" či nikoliv.

[Pavel 'lingeek' Szalbot]

1) Dijkstrův algoritmus lze aplikovat na grafy s nezáporným ohodnocením hran, což je dost důležité zmínit.

2) Časová složitost v případě použití binární haldy je obecně O(|V+E|lg|V|), což je O(|E|lg|V|), když jsou všechny vrcholy dosažitelné z výchozího vrcholu.

3) Ve skutečnosti můžeme dosáhnout složitosti O(|V|lg|V|+|E|) použitím Fibonacciho haldy (lepší amortizovaná složitost). Ale tohle nám asi neříkali ani na matfyzu.

[Martin Tůma]

Tohle jsou samozřejmě další dobře známé vlastnosti Dijkstrova algoritmu (dokonce i ta možnost využití Fibonacciho haldy se udává snad v každém popisu algoritmu), některé vlastnosti jsem dokonce zmínil v textu, ale oč tu běží je čistě implementační záležitost a vlastnosti "přiohnutého" algoritmu.

[Pavel 'lingeek' Szalbot]

Zajímavé. V textu tvrdíš, že se moc neví, že při "implementaci" s použitím binární haldy je potřeba měnit prioritu uvnitř haldy. Mohl bys tedy ukázat pseudokód (rozuměj popis algoritmu), který by bez této "funkce" fungoval? A pokud ne, jak je možné, že se o tom "moc neví"?

[Martin Tůma]

Mohl bys tedy ukázat pseudokód (rozuměj popis algoritmu), který by bez této "funkce" fungoval?

Uááá. Agoritmus, který tuto funkci nepotřebuje je právě ten ukázkový kód. O něm to celý je!

A pokud ne, jak je možné, že se o tom "moc neví"?

To že se o nutnosti této funkce použité fronty "moc neví" je myšleno tak, že si to člověk naplno uvědomí, až když musí algoritmus implementovat, protože takovou frontu obyčejně nemá k dispozici. Rozhodně to ale neni nějaký zajímavý a málo probádaný teoretický aspekt Dijkstrova algoritmu jako takového.

[Pavel 'lingeek' Szalbot]

No vidíš. Já to nedočetl, protože nechápu, proč bych měl algoritmus zpomalit kvůli tomu, že knihovna neobsahuje triviální funkci nad binární haldou. Klíčové slovo je to _nechápu_. Tak se nezlob...

[Honza Král]

Ale tohle nám asi neříkali ani na matfyzu.

Predmet slozitost, fibbonaciho haldy i jejich aplikace v Dijstrove algoritmu se probiraly... ;)

[Pavel 'lingeek' Szalbot]

Ještě pořád je to povinné? Karolinky hledat nebudu... Co mě na matfyzu vždycky pobaví je předmět, který probere látku vcelku povrchně, ale nakousne toho co nejvíc. Za pár semestrů ho totiž v rámci takřka stejného sylabu rozšíří další. Viz třeba ADS - Složitost. Jinak co se algoritmů týče, tak si člověk (nejen) na matfyzu vystačí s Introduction to algorithms z MIT. Jen je třeba dávat pozor v předmětech, kde se pracuje s B-stromy - zavádějí je tam trochu jinak (ve výsledku je to samozřejmě stejné) a algoritmy operací jsou taky trochu jiné (ve srovnání s evergreenem od prof. Pokorného či zmíněných ADS).

[elviin]

Ja to nikdy nepouzil, ale mozna se ti to Martine hodi. Je to funkce z boostu:
dijkstra_shortest_paths

[Kníže Ignor]

Podle mě to korektní není, protože to nezajišťuje, že "nevisited" vrcholy budou v té frontě uspořádány podle odhadu délky nejkratší cesty.

Vezměme si takovýto podgraf nějakého grafu

B____C
 \  /
  \/
  A
  |
  |
  D

délky hrany tyto d(A,D)=3, d(A,C)=4, d(A,B)=1, d(B,C)=1

začneme v A, do fronty přijde B(1), D(3), C(4); v dalším kroku teda zkoumám B, C dám nový odhad 2

takže fronta "nevisited" vrcholů je D(3), C(2)

což by asi být nemělo, ne?

(kdyby z D vycházela nějaká hrana a na ní byl nalepenej nějakej graf H, přidali bychom ještě hranu CD s ohodnocením třeba 0.5, tak se správně nenajde nejkratší cesta do H přes AB, BC, CD, ..)

[Martin Tůma]

Možná to neni z popisu zcela zřejmý, ale použitá fronta je samozřejmě stále prioritní. Situace, že by v ní byla posloupnost D(3), C(2) tak nemůže nastat.

Prošel jsem si tebou uváděnej příklad, a nevidim v tom problém, na danym grafu algoritmus funguje korektně.

[Kníže Ignor]

Možná to neni z popisu zcela zřejmý, ale použitá fronta je samozřejmě stále prioritní. Situace, že by v ní byla posloupnost D(3), C(2) tak nemůže nastat.

Tak to jsem teda nepochopil. Píšeš, že "Prioritní fronta ze standartní šablonové knihovny STL totiž touto vlastností neoplývá...", kde "touto vlastností" sem pochopil jako změna priority. Tedy jsem se domníval, že fronta 3, 4, 5 se nepřeuspořádá, pokud změním prioritu u druhého prvku na 2, tedy bude v podobě 3, 2, 5. Takhle to teda není? Pokud ne, tak jsem nějak nepochopil celý blogpost.

Jinak na tom "nakresleném grafu" by to neselhalo, domnívám se, že by to selhalo až na grafu, kde z D vede nějaká hrana a přidáme ještě hranu CD váhy 0.5 (což jsem naznačil v minulém příspěvku v závorce).

[Martin Tůma]

Tak to jsem teda nepochopil. Píšeš, že "Prioritní fronta ze standartní šablonové knihovny STL totiž touto vlastností neoplývá...", kde "touto vlastností" sem pochopil jako změna priority. Tedy jsem se domníval, že fronta 3, 4, 5 se nepřeuspořádá, pokud změním prioritu u druhého prvku na 2, tedy bude v podobě 3, 2, 5. Takhle to teda není? Pokud ne, tak jsem nějak nepochopil celý blogpost.

Změnu priority fronta z STL neumožňuje, proto se taky místo změny priority přidává uzel do fronty znovu, čímž se samozřejmě zařadí na správné místo. Vrchol tedy může být ve frontě několikrát, přičemž jen jeho první výskyt je "platný".

Jinak na tom "nakresleném grafu" by to neselhalo, domnívám se, že by to selhalo až na grafu, kde z D vede nějaká hrana a přidáme ještě hranu CD váhy 0.5 (což jsem naznačil v minulém příspěvku v závorce).

Uvažoval jsem samozřejmě ten rozšířený graf (s hranou CD)

[Kníže Ignor]

Nevšiml jsem si toho queue.push(neighbour); Prostě po změně odhadu vzdálenosti sousedů už jsem zvyklý, že dál nic není

Takže sorry, podcenil jsem tě

[Kníže Ignor]

BTW Nechceš někam dát kompletní zdroják?

[Pavel 'lingeek' Szalbot]

Zdroják být ani nemusí - stačí důkaz správnosti algoritmu.

[Kníže Ignor]

No já bych si spíš chtěl vyzkoušet, jak teda vlastně funguje ta fronta...

[Martin Tůma]

A Kefalín, čo Vy si predstavujete pod takým "důkaz správnosti algoritmu"?!

Obávám se, že ten už si budeš muset udělat sám. Nejsem matfyzák, takže se do podobných "experimentů" pouštím jen v případech krajní nouze, což zrovna tenhle není...

[Martin Tůma]

Tady ho máš, ten "majstrštyk"

http://tumic.wz.cz/fel/#36CPP

[Martin Tůma]

Slíbil jsem, že zde vyslovím můj názor na složitost takto modifikovaného algoritmu, která je IMHO (a už to tady zaznělo stále O(|H|log|U|).

Jediné co se mění je počet prvků(uzlů) v prioritní frontě, který oproti "originálnímu" algoritmu může být až |U|^2. Nicméně proto, že log(|U|^2) = 2log|U| = O(log|U|), zůstává asymptotická časová složitost algoritmu O(|H|log|U|). Skutečná složitost nicméně samozřejmě naroste, ale na "běžných" grafech IMHO nijak výrazně.

Nějaké námitky?

[Martin Tůma]

Tak si odpovím sám. Zas tak růžový to asi přece jenom nebude... "Hlavní" cyklus se může provést až |H|*|U|, zařazení do fronty pak má složitost log(|H|*|U|). Celková asymptotická složitost řešení tedy spíše bude O(|H|*|U| + log(|H|*|U|)) = O(|H|*|U|), tedy horší, než u "originálu".