Administrace komentářů

Zdravím,

pracuju na fyzikálním simulačním programu, kde se během výpočtů pravidelně (pro účely pozdější visualisace) ukládá část stavu simulace. Mám např. 10000 částic a u každé z nich potřebuju jednou za 30s výpočtu uložit 3 souřadnice (typ double) polohy, 4 složky prostorové orientace, 3 další pro označení RGB. Když výpočet běží třeba 24 hodin, dává to řádově stamiliony čísel.

V současné chvíli se vytváří hromada souborů snapshot-0001340.bz2 atd, které v sobě mají ta čísla v ASCII (ve sloupcích, každý řádek jedna částice). ((předesílám, surová binární data nechci, to se nedá pohodlně prohlížet)) No a při čtení se soubory vyhledají v daném adresáři, setřídí (podle čísla iterace) a postupně načítají.

No a napadlo mě, co kdyby se to ukládalo do sqlite. Výhodou by byl jeden soubor (sqlite prý podporuje až 2TB, mně to bzip2ované zabíralo asi 1GB), případně by se dal formát různě modifikovat, ukládat nějaká metadata u každé iterace (třeba kolik bylo hodin) atd.

Dokáže někdo ze zkučených odhadnout, jak by to bylo s rychlostí zápisu a jak s rychlostí čtení? Při čtení budu muset vždy vyhledat číslo podle iterace, čísla částice a údaje, který si chci přečíst - čtení je ale striktně sekvenční, nebude ta hromada SELECTů moc pomalá?

Jakou strukturu by měla mít tabulka? Třeba sloupce: iterace, id_částice, 10 sloupců pro čísla. Nebo pro každou iteraci zvláštní tabulku a pak jednu supertabulku, kde budou jméne těch tabulek pro jednotlivé iterace?

Mám s databázemi minimální zkušenosti, omlouvám se za možná hloupé otázky. Google mi přímo k tématu nic neporadil, nebo jsem nevěděl, jak se správně zeptat.

Díky moc, Vašek