Dotaz: Urychleni celkem jednoducheho algoritmu

[Bundas]

Zdravim vsechny. Nenapada vas zpusob, jak podstatne urychlit tento algoritmus? The algoritmus ma nejdrive nacist ze souboru cislo p indikujici pocet ostatnich cisel z rozmezi -1 000 000 000 az 1 000 000 000. A potom je ma rozradit, resp. zjistit, kolik je kterych cisel. Rozradit 100 000 cisel mu trva hodiny. Nenapada vas zpusob, jak to urychlit? Predem moc diky za pomoc.

 #define NAZEV "vstup.txt"
 #define TYP "r"
 #define NAZEV2 "help"
 #define TYP2 "a+"
 #define MIN_INT -1000000000
 #define MAX_INT 1000000000
 /*--------------------------------------------------------------------------------------------------*/
 FILE *s;
 FILE *pomocnySoubor;
 int n;
 int poleCisel[100001];

 /*------------------------------------------------------------------------------------------------*/
 void nactiVstup(){
     s = fopen(NAZEV, TYP);
     fscanf(s, "%d\n", &n);
     int i;
     for(i=0; i < n;i++){
         fscanf(s, "%d\n", &poleCisel[i]);
     }
 puts("nascanoval sem ze souboru");
     fclose(s);
 }
 /* Druha metoda ------------------------------------------------------------------------------ */
 void najdiVyskyt(){
     pomocnySoubor = fopen(NAZEV2, TYP2);
     int i,j,tmp=0;
     int vysledek;

         int aktualni_cislo;
         puts("zacinam tridit");
         for(j=MIN_INT; j < MAX_INT; j++){
             vysledek=0;
             aktualni_cislo =j;
             if(j == MIN_INT/2){
                 puts("jsem v pulce");
             }
             if(j == MIN_INT/4){
                puts("jsem ve ctvrtine");
        }
                if(j == MIN_INT/1000){
                puts("jsem v jedne tisicine");
 }
         for(i=0; i < n; i++){
             if(poleCisel[i] == aktualni_cislo){
             vysledek++;

         }

         }
         if(vysledek > 0){
             fprintf(pomocnySoubor, "%d %d\n", aktualni_cislo, vysledek);
             printf("%d %d\n", aktualni_cislo, vysledek);
         }
         }



         printf("dotridil sem\n");



     fclose(pomocnySoubor);
 }

 /*Hlavni funkce ------------------------------------------------------------------------------------- */
 int main(void){
     nactiVstup();
     najdiVyskyt();
     printf("\n");
     return EXIT_SUCCESS;
 }

btw. mozna tam jsou nejake nepouzite promenne. Kdyz sem to poprve napsal, tak to nefungovalo a tak jsem to komplet prepisoval. >> proto tam jsou mozna nejake prebytecne.

---

---

Odpovědi

[Bundas]

Odsazení!!!

puts("zacinam tridit");
for(j=MIN_INT; j < MAX_INT; j++){
    vysledek=0;
    aktualni_cislo =j;
    if(j == MIN_INT/2){
        puts("jsem v pulce"); 
    }
    if(j == MIN_INT/4){
       puts("jsem ve ctvrtine");
    }
    if(j == MIN_INT/1000){
       puts("jsem v jedne tisicine");
    }
    for(i=0; i < n; i++){ 
      if(poleCisel[i] == aktualni_cislo){
      vysledek++;
      }
    }
}

Pro každé číslo z <-1G; +1G> to projde všechna zadaná čísla. Pro 100k čísel to tedy udělá 2G*100k = 200T operací. Je zázrak, že to za ty hodiny vůbec projde. Složitost algoritmu je, řekněme, n^2 (pokud by pro zjednodušení ten rozsah byl závislý na n - teď je to lineární, ale s brutální multiplikativní konstantou :).

Hint: Nebylo by lepší zadaná čísla napřed setřídit (to běží v n log n) a pak to setříděné pole projít sekvenčně?

[Sten]

Hint: Nebylo by lepší zadaná čísla napřed setřídit (to běží v n log n) a pak to setříděné pole projít sekvenčně?

Anebo rovnou při řazení pomocí merge sortu slučovat (a počítat výskyty) stejná čísla, tím to celé proběhne v n log n.

[potato]

Příloha:

• z.c (1601 bytů)

Standardní způsob urychlení je použití vhodné vyhledávací datové struktury, například hashové tabulky. Buď z knihovny, případně si ji můžeš naprogramovat sám... Přiložený program využívající GHashTable z GLib spočítá počty výskytů 100000 čísel asi za 50 ms. Půlku z toho času přitom sežere parsování vstupu a vypisování výsledků.

Pokud nechceš používat vůbec žádné datové struktury, tak to pole po načtení setřiď pomocí qsort() a pak už jen počítej délky bloků stejných čísel. To je pro hodně velká pole méně efektivní, ale pořád to bude okamžitě.

[Sten]

Použití vhodné struktury ano, ale hashmapa na integery? Really?

qsort pro tohle není moc nevhodný, protože to musíte nejdřív seřadit a až potom počítat. Doporučuji merge sort a počítat výskyty rovnou při mergování. IMO to bude i o dost rychlejší než mapa, za cenu vyšší spotřeby paměti.

[Sten]

Příloha:

• prog.c (5412 bytů)

Tady je verze s merge sortem

[potato]

hashmapa na integery? Really?

Jasnačka že really.

Integer je sám svým hashem (viz g_direct_hash), ale princip ukládání do tabulky je stejný. Pro ukázkový příklad to přece nebudu kódit zvlášť. Navíc se nestarám, jak přesně řešit velikost tabulky a její případný růst, když to udělá GHashTable sama...

qsort pro tohle není moc nevhodný, protože to musíte nejdřív seřadit a až potom počítat. Doporučuji merge sort a počítat výskyty rovnou při mergování. IMO to bude i o dost rychlejší než mapa, za cenu vyšší spotřeby paměti.

Jelikož každý sort má ten log(N) faktor, přijde mi toto porovnávání sortů jako poněkud plané teoretizování.

Z praktického hlediska: qsort() je jedno volání funkce ze standardní libc. Plus potřebuješ funcki která porovná dva integery. Tečka.

[lertimir]

Určitě není pravda, že každý sort má svůj ln(N) faktor. A quick sort má svůj worst case na n^2. viz Sorting algorithm

[potato]

To jsem si mohl myslet, že bude následovat ještě více planého teoretizování a odkaz na Wikipedii.

Ano, máš pravdu, a taky je všechno, co píšeš, irelevantní.

Pokud řešíš benchmarky, tak jsem psal, stejně sežere tak velkou část času parsování a vypisování, že program používající quciksort můžu zrychlit o 30%, když použiji strtol() namísto scanf(). Můžeš si progratulovat, že umíš napsat funkce pro parsování čísel, ale normální člověk použije standardní knihovnu...

[potato]

A, sorry s tím parsováním. Pomíchalo se mi, že jsi autor i předchozí odpovědi, to zřejmě psal někdo jiný.

[Sten]

Integer je sám svým hashem (viz g_direct_hash), ale princip ukládání do tabulky je stejný. Pro ukázkový příklad to přece nebudu kódit zvlášť. Navíc se nestarám, jak přesně řešit velikost tabulky a její případný růst, když to udělá GHashTable sama...

Hashmapa slouží pro případy, kdy klíč má složité porovnání (např. string), potom je totiž mnohem rychlejší porovnávat hashe a plné porovnávání použít jen pro těch pár případů kolizí. Jenže to trpí mnoha problémy, mj. hash collision vede až k O(n). I proto se integer jako svůj vlastní hash většinou nepoužívá, ale počítá se nějaký odolnější hash, což zase stojí výkon. Navíc se hash mapa musí při velkém množství položek často rebalancovat, což stojí hodně výkonu Pro klíče s jednoduchým porovnáním je výrazně rychlejší nějaký binární (či n-ární, pokud se chcete přiblížit O(1)) strom.

Jelikož každý sort má ten log(N) faktor, přijde mi toto porovnávání sortů jako poněkud plané teoretizování.

Quick sort má average O(n log n), ale worst case O(n²). merge sort má O(n log n) obojí, stojí pouze víc paměti. Navíc u toho merge sortu se díky mergování duplicit dostanu na ještě lepší výkon, protože v průběhu výpočtu klesá počet položek. A ještě navíc vypočítám výsledky rovnou během toho řazení.

[Šangala]

Sorry, že se do toho pletu, ale ono zas na druhé straně fopen, scanf, scanf ve for, qsort a při zobrazení jen vypisovat při změně počet, jinak ++, odpovídá zadání, je to mnohem kratší, stojí to méně paměti, je to napsané za 10min i s ošetřením, a je to pomalejší o nějaké jednotky msec na čase, kde 80 % zabírá výstup a 19.9 % vstup (% střelená od pasu). Myslím si, že cokoliv jiného (včetně hashmapy) je dost overkill.

[wamba]

jo standardně se na to používá hash(ale nevěděl jsem jak se v C používají) v Perlu by řešení mohlo vypadat např.

#!/usr/bin/perl
use 5.010;
use warnings;
use strict;

our $VERSION = 0.001;

my %hesla;
while (<>) {
    chomp;
    $hesla{$_}++;
}

while ( my ( $heslo, $pocet ) = each %hesla ) {
    say $heslo, q{ }, $pocet;
}

(100000 položek v pohodě zvládá)

[meggie]

void najdiVyskyt(){
  pomocnySoubor = fopen(NAZEV2, TYP2);
  int *poleCisel_tmp;
  int *poleCisel_max = poleCisel + sizeof(poleCisel);
  int *vysledky = (int *) malloc((MIN_INT+MAX_INT+1) * sizeof(int) + 1);
  vysledky = vysledky + MIN_INT;
  
  // puts("zacinam tridit"); - strasne pomala vec :P
  
  poleCisel_tmp = poleCisel;
  for (;;) {
    vysledky[*poleCisel_tmp] = 0;
    poleCisel_tmp++;
    if (poleCisel_tmp > poleCisel_max)
      break;
  }
  
  poleCisel_tmp = poleCisel;
  for (;;) {
    vysledky[*poleCisel_tmp]++;
    poleCisel_tmp++;
    if (poleCisel_tmp > poleCisel_max)
      break;
  }
  
  poleCisel_tmp = poleCisel;
  for (;;) {
    fprintf(pomocnySoubor, "%d %d\n", *poleCisel_tmp, vysledky[*poleCisel_tmp]);
    vysledky[*poleCisel_tmp] = 0;
    poleCisel_tmp++;
    if (poleCisel_tmp > poleCisel_max)
      break;
  }

  fclose(pomocnySoubor);
}

ale nikde bych to nepouzil...

[meggie]

a jeste tam chybi if (vysledky[*poleCisel_tmp]) pred tim fprintf

[meggie]

a taky if (poleCisel_tmp > poleCisel_max) => if (poleCisel_tmp >= poleCisel_max) proste jsou tam sem tam chyby :P

[Saljack]

Co je proboha tohle?

for (;;) {
    vysledky[*poleCisel_tmp] = 0;
    poleCisel_tmp++;
    if (poleCisel_tmp > poleCisel_max)
      break;
  }

Proc nepouzit for rovnou nez psat podminky do nej a nebo pouzit while? Nechci byt hnusny, ale vic zprasit cyklus snad nejde, navic trikrat za sebou. Mozna by stalo za to si zopakovat co vlasne for a while dela.

[Saljack]

A jeste drobny detail pojmenovani promene poleCisel_tmp neni zrovna moc vhodne. Takhle to vypada, ze je to kopie celeho pole, ale promenna je pouze "iterator".

[meggie]

Pokud nezapne optimalizaci a ten kompilator to nejak nezoptimalizuje, tak diky tomu usetri jedno porovnani tech pointeru, ale slo by pouzit do while...