Dotaz: PHP: Out of memory

[mito]

Snazim sa spracovat obsah databazy do suboru. Obsahom databazy vyplnam dvojrozmerne pole, ktore nasledne formatujem a vypustam von. No pri spracovavani koncim na vycerpani pamate(php.ini - memory_limit = -1) nakolko rozsah dat je znacny (170000riadkov a 500 atributov pre riadok). Snazil som sa zvacsit swap particiu no zjavne to nepomaha, v urcitom momente pri spracovavani skoncim na limite RAMky a nie na limite celkovej pamate ram+swap a neviem preco.

Ako druhe riesenie zvazujem postupne pripajanie sposobom fopen("subor", "a+") no niesom si isty ci sa nedostanem do problemu kedy budem pri kazdom pripajani nacitavat do ramky niekolko GB velky subor.

Kazda rada je cenna, vopred dakujem.

Odpovědi

[AraxoN]

Evidentne pomôže len zmena algoritmu. Nech už robíš čokoľvek, robíš to zrejme veľmi pamäťovo neefektívne. Nehovor mi, že potrebuješ niekoľko giga dát mať v RAMke naraz.

[svido]

Za celou dobu programovani jsem nepotreboval vice jak 32M. Preteceni pameti se mi stalo jen jednou, kdyz jsem se upsal a zacyklilo se MySQL. Urcite by jsi mel data prubezne nacitat a ihned po zformatovani ulozit do souboru.

[Jiří Veselský]

Je rozhodně hloupost v jednom cyklu přes nějaké mysql_fetch_array načíst celou tabulku do pole, a následně ve druhém cyklu foreach přes toto pole něco dělat s jeho jednotlivými "řádky".

Tu operaci, kterou provádíte ve druhém cyklu s "řádkem" pole proveďte přímo v prvním cyklu s tím, co vám vrátila databáze - a náhle neukládáte do paměti v kterémkoliv okamžiku nic víc než jeden jediný řádek.

Jestli to dobře chápu, tak jednotlivé řádky zapisujete do nějakého souboru - ten soubor si samozřejmě fopennete před vstupem do cyklu čtení tabulky, v těle cyklu děláte jenom fwrite a po skončení cyklu uděláte fclose. I kdyby se ten soubor roztáhl na pár GB, nemusíte mít z paměťových nároků této operace obavy - protože ten soubor se celý v paměti neudržuje...

[moira]

Zkus sem kdyz tak postnout kod.

[mito]

Pri danej poziadavke na formatovanie vystupu bolo potrebne udrzat cely obsah z databazy v ramke, za ucelom zjedoduchsenia algoritmu. Nakolko som kompletnu informaciu o sposobe formatovania ziskal az po prejdeni celej DB.Ale pocetnost riadkov v DB zjavne prekracuje pamatove naroky, tak sa priklonim ku spracovaniu na dvakrat. Teda najprv prebehnem databazu a zistim ako chcem formatovat a potom budem formatovat po riadku. Doteraz som cital DB iba raz a snazil sa pracovat s vystupom DB co najjednoduchsie.

Kazdopadne dakujem velmi pekne za nazori moc mi to pomohlo. Takze hovorite ze so zapisovanim aj do niekolko GB suboru po castiach nebude problem co sa tyka pamatovych narokov ?

[Jiří Veselský]

1. Nevím, jaké informace potřebujete předem znát k tomu, ať můžete formátovat. Nicméně pokud to je něco jako maximální hodnota nějakého pole (ať víte, kolik míst potřebujete pro zobrazení), můžete to zjistit jediným dotazem typu select max(cosi) from kdesi. Jinak řečeno, možná se vám podaří potřebné informace zjistit nikoliv procházením všech řádků, nýbrž použitím vhodné agregační funkce - což je samozřejmě mnohem efektivnější, nicméně závisí to na vašich konkrétních potřebách.

2. Se souborem problém nebude. Akorát, jak už jsem říkal, jej v tom cyklu nesmíte opakovaně otevírat a zavírat, to by samozřejmě výkon dost snížilo. (Ale pořád by to "jenom" snížilo výkon, nevyhučelo by to na držku kvůli "out of cokoliv".)

[mito]

Dakujem velmi pekne, vacsina nazorov urcite pomohla.

[frEon]

doporucuju podivat se na /etc/php.ini a navysit parametr memory_limit

[AraxoN]

Písal že má memory_limit nastavený na -1, čo znamená bez obmedzenia...