Dotaz: Převod dat z MAILBOX souborů do MySQL databáze

[Martin H.]

Nainstaloval jsem server a rozchodil Postfix. Postupem času přibyly virtuální hostingy různých známých a jejich schránky utěšeně rostou (dlužno dodat že většinou blbostmi, ale oni na nich lpí).

Proto jse se rozhodl převést poštu do MySQL. Jak však mám převést existující zprávy do MySQL databáze, aby o ně nepřišli?

Hledal jsem, ale to asi ještě nikdo neřešil.

Nemá někdo tip, jak na to?

Předem díky za každou konstruktivní odpověď.

Odpovědi

[Zdeněk Burda]

Ahoj,

co si od toho slibuješ? Osobně si myslím, že to není moc dobrý nápad.

Budeš muset vyřešit následující věci:

• doručování do schránky - MDA
• třídění pošty (maildrop, procmail, dovecot-lda necpou data přímo do mysql)
• přístup k poště - IMAP/POP3 daemon
• zálohování - snadněji se zálohují maildiry než databáze
• další služba - možná úzké hrdlo
• budeš mít data v dost nestandardním formátu - migrace do jiného prostředí bude složitá
• ...

Pokud skutečně toužíš po tom mít vše v databázi, tak vyzkoušej dbmail.

Z.

[Zdeněk Burda]

Co tě omezuje na stávajícím řešení? Co si slibuješ od dat v MySQL?

[Martin H.]

Pro oba: omezuje mě to, že pokud je ve schránce cca 40-50 MB dat, pak se do schránky nelze přihlásit.

IMAP používám už dnes, ti známí jsou BFU a přistupují většinou přes IMAP/Webmail rozhraní.

Našel jsem popis, jak doručovat do MySQL a zdálo se mi to jako vhodné řešení.

Ano, MALDIR jsem zvažoval, ale mám obavu, že i tak několik stovek souborů se do Webmailu bude načítat hodně pomalu a dlouho, kdežto SQL dotaz je rychlý.

Webmail používám mírně poupravený IlohaMail.

[H0ax]

Přešel bych na maildir. Velikosti schránek v řádu gigabajtů a tisíce a více mailů nejsou problém.

[azurIt]

pouzivam maildir, klienta Horde/IMP, v schranke mam vyse 2300 mailov a nebadam _akekolvek_ spomalenie. pomalsie je jedine napr. ked si dam spravy utriedit podla niecoho ineho, ako su momentalne utriedene. vyhladavanie je taktiez dostatocne rychle.

[Zdeněk Burda]

40-50 MiB dat nic není, to také můžou být dva emaily Kombinace dobrého IMAP serveru s rozumným webmailem ti umožní používat i několikagigabajtové schránky s mnoha tisíci emailů. Otestované mám IMAP servery Dovecot a Courier, webmail Squirrel a Roundcube (ten je trochu línější). Oba webmaily přistupují přes IMAP. Když se člověk přihlásí do webmailu tak samozřejmě chvíli trvá než se zobrazí obsah nějaké veliké schránky, ale není to nic tragického.

Můj INBOX má aktuálně něco kolem 800MiB a cca 2000 zpráv - přihlášení do SqurrelMailu trvá něco kolem 5-10s podle vytížení serveru. Roundcube je na tom podobně. Celkem mám ve schránce 4,5GiB (130k souborů) pošty v různých složkách.

[CandySan]

Ahoj, moje soukr posta ma vic jak 11 giga. Jen v INBOXu mam pres 9000 schranek. Mnoho a mnoho podschranek. Jako nejrychlejsi se mi ukazala kombinace maildir formatu a courier imap. Takto mi to ani nezatezuje server a je to velmi svizne (pruser nastava kdyz se TB rozhodne, ze si sosne celej inbox od zacatku, ale to je uz uplne jine tema o tom proc mam takovej neporadek v poste a zda je to nutne...). Na dorucovani pouzivam postfix a procmail. Vsechny definice schranek (ale i ftp ucty, dns zaznamy atd...) mam v databazi. Databaze mi prinasi mnoho vyhod s administraci (pouzivam postgres a hodne vyuzivam pohledy, triggery a funkce), ale obecne lze rici, ze ukladat fajly do db neni snad nikdy vhodne reseni. Blbe se to zalohuje a databaze se ti muze celkem snadno poskodit - pak tam loadovat takove mnozstvi dat zpatky je jednak horor a druhak to trva hodne moc dlouho. Pokud tedy nastane katastrofa, pak se ti hodi kazda usetrena minuta a neni dobre takto casem plytvat. Taktez je pravda, ze to je nestandardni format ulozenych dat a ze tedy logicky budes postupne behem pouzivani narazet na spoustu dalsich potizi, ktere dnes treba ani nikoho z nas nemusi napadnout.

Jetse mne napadlo, ze se mi v jedne schrance obcas okoti tolik zasilek, ze jsou jich uz stovky tisic (malickate textove mailiky - hlasky z ruznych serveru) a tech pak muze byt az tak moc, ze nad nimi nelze uz udelat dirlist. Tohle by databaze vyresit umela a pokud by to nebyl jen muj neporadek, ale pokud by to skutecne bylo potreba, pak by to byla vyjimka a skutecny duvod pro ukladani fajlu do db. Mas tedy pocit, ze potrebujes mit adresar (rekneme ten inbox) s pul milionem zasilek, se kterymi skutecne chces pracovat?

[Dramon]

Limit 50 MB na schránku je limitem defaultní konfigurace Postfixu a dá se nastavit parametrem "mailbox_size_limit". Po čase používání jsem ale narazil na druhý limit a to 2 GB. Ten se mi nepodařilo "prolomit", ale dlužno říct, že jsem se moc nesnažil. Už mi totiž formát mailbox lezl krkem a nahradil jsem jej maildirem.
Takže nyní používám Postfix a IMAP pomocí Dovecotu a je to svižné, bez velikostních limitů a hlavně smazání mailů z prostředka schránky je bleskurychlé a není nutné setřásat jednou za čas mailbox, aby tam nebyly MB smazaných mailů. Plus se to mnohem lépe zálohuje. Prostě spousta výhod :)
Co se týká výkonu, tak mám ve své schránce cca 9.000 mailů a jako klienta používám Thunderbirda bez offline souborů a jede to jako blesk. Včetně hledání podle subj, odesilatelů atp. Podle těla moc nehledám, ale i tak to je celkem rychlé - zmíněných 9000 mailů (490 MB) mi to prohledá za necelých 30 vteřin. Pro lepší výsledky bych použil nějaký index SW na klientovi. Například Beagle.
S offline soubory v TB mám zkušenosti, že se občas chovají divně - nejsou vidět nové maily atp. V Evolutionu mi vždy docela dlouho trvala první synchronizace po jeho zapnutí.
Ve firemní spamové schránce se mi nashromáždilo za rok 47.000 mailů a i to jede jako čert, když se tam dívám po nějaké false-positive zprávě.

[azurIt]

Po čase používání jsem ale narazil na druhý limit a to 2 GB.

zrejme limit na maximalnu velkost suboru (man ulimit)

[Martin H.]

Všem moc děkuji za názory a nápady. Omezení schránky na 2GB zkusím, mohlo by to pomoci při mém současném oddalování úpravy, pravděpodobně zkusím některé z nabízených řešení.

Přesně toto jsem potřeboval, ještě jednou děkuji za Vaše příspěvky.