abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
dnes 02:20 | Zajímavý článek

David Revoy, autor open source webového komiksu Pepper&Carrot nebo portrétu GNU/Linuxu, upozorňuje na svém blogu, že nový Inkscape 0.92 rozbíjí dokumenty vytvořené v předchozích verzích Inkscape. Problém by měl být vyřešen v Inkscape 0.92.2 [reddit].

Ladislav Hagara | Komentářů: 0
dnes 02:02 | Komunita

Øyvind Kolås, hlavní vývojář grafických knihoven GEGL a babl, které využívá grafický program GIMP, žádá o podporu na Patreonu. Díky ní bude moci pracovat na vývoji na plný úvazek. Milník 1000 $, který by stačil na holé přežití, se již téměř podařilo vybrat, dalším cílem je dosažení 2500 $, které mu umožní běžně fungovat ve společnosti.

xkomczax | Komentářů: 12
včera 23:54 | Pozvánky

DevConf.cz 2017, již devátý ročník jedné z největších akcí zaměřených na Linux a open source ve střední Evropě, proběhne od pátku 27. ledna do neděle 29. ledna v prostorách Fakulty informačních technologií Vysokého učení technického v Brně. Na programu je celá řada zajímavých přednášek a workshopů. Letos je povinná registrace.

Ladislav Hagara | Komentářů: 0
včera 22:11 | Nová verze

Byla vydána verze 1.0.0 emulátoru terminálu Terminology postaveného nad EFL (Enlightenment Foundation Libraries). Přehled novinek v poznámkách k vydání.

Ladislav Hagara | Komentářů: 0
20.1. 17:00 | Nová verze

Byl vydán Docker 1.13. Přehled novinek na YouTube a v poznámkách k vydání na GitHubu. Docker umožňuje běh aplikací v softwarových kontejnerech (Wikipedia).

Ladislav Hagara | Komentářů: 4
20.1. 15:51 | Komunita

Mozilla.cz informuje, že nástroje pro webové vývojáře se možná oddělí od Firefoxu a stanou doplňkem. Nástroje pro webové vývojáře prošly velkým přepisem a tým, který se stará o jejich vývoj, by uvítal možnost jejich častějších aktualizacích nezávisle na vydávání nových verzí Firefoxu.

Ladislav Hagara | Komentářů: 9
20.1. 07:00 | Humor

Čtenářům AbcLinuxu vše nejlepší k dnešnímu Dni zvýšení povědomí o tučňácích (Penguin Awareness Day).

Ladislav Hagara | Komentářů: 0
20.1. 06:00 | Komunita

Bylo spuštěno hlasování o přednáškách a workshopech pro letošní InstallFest, jenž proběhne o víkendu 4. a 5. března v Praze. Současně byla oznámena změna místa. InstallFest se letos vrací zpět na Karlovo náměstí do budovy E.

Ladislav Hagara | Komentářů: 0
20.1. 02:48 | Komunita

Greg Kroah-Hartman potvrdil, že Linux 4.9 je jádrem s prodlouženou upstream podporou (LTS, Long Term Support). Podpora je plánována do ledna 2019. Aktuální jádra s prodlouženou podporou jsou tedy 3.2, 3.4, 3.10, 3.12, 3.16, 3.18, 4.1, 4.4 a 4.9.

Ladislav Hagara | Komentářů: 0
20.1. 00:11 | Zajímavý článek

Výrobce síťových prvků, společnost Netgear, spustila nový program, který slibuje vývojářům, expertům, ale i běžným uživatelům vyplacení finanční odměny za nalezení bezpečnostních chyby v jejich produktech. Za nalezení zranitelnosti v hardware, API nebo mobilní aplikaci nabízí odměnu od 150 do 15 tisíc dolarů (dle závažnosti).

Michal Makovec | Komentářů: 0
Jak se stavíte k trendu ztenčování přenosných zařízení (smartphony, notebooky)?
 (10%)
 (2%)
 (74%)
 (3%)
 (10%)
Celkem 360 hlasů
 Komentářů: 25, poslední včera 13:34
Rozcestník
Reklama

Dotaz: Převod dat z MAILBOX souborů do MySQL databáze

18.3.2008 14:07 Martin H. | skóre: 27 | blog: linservis | Brno
Převod dat z MAILBOX souborů do MySQL databáze
Přečteno: 490×
Nainstaloval jsem server a rozchodil Postfix. Postupem času přibyly virtuální hostingy různých známých a jejich schránky utěšeně rostou (dlužno dodat že většinou blbostmi, ale oni na nich lpí).

Proto jse se rozhodl převést poštu do MySQL. Jak však mám převést existující zprávy do MySQL databáze, aby o ně nepřišli?

Hledal jsem, ale to asi ještě nikdo neřešil.

Nemá někdo tip, jak na to?

Předem díky za každou konstruktivní odpověď.
--- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---

Odpovědi

18.3.2008 14:20 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Ahoj,

co si od toho slibuješ? Osobně si myslím, že to není moc dobrý nápad.

Budeš muset vyřešit následující věci:
  • doručování do schránky - MDA
  • třídění pošty (maildrop, procmail, dovecot-lda necpou data přímo do mysql)
  • přístup k poště - IMAP/POP3 daemon
  • zálohování - snadněji se zálohují maildiry než databáze
  • další služba - možná úzké hrdlo
  • budeš mít data v dost nestandardním formátu - migrace do jiného prostředí bude složitá
  • ...
Pokud skutečně toužíš po tom mít vše v databázi, tak vyzkoušej dbmail.

Z.
-- Nezdar není hanbou, hanbou je strach z pokusu.
18.3.2008 14:21 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Co tě omezuje na stávajícím řešení? Co si slibuješ od dat v MySQL?
-- Nezdar není hanbou, hanbou je strach z pokusu.
18.3.2008 16:03 Martin H. | skóre: 27 | blog: linservis | Brno
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Pro oba: omezuje mě to, že pokud je ve schránce cca 40-50 MB dat, pak se do schránky nelze přihlásit.

IMAP používám už dnes, ti známí jsou BFU a přistupují většinou přes IMAP/Webmail rozhraní.

Našel jsem popis, jak doručovat do MySQL a zdálo se mi to jako vhodné řešení.

Ano, MALDIR jsem zvažoval, ale mám obavu, že i tak několik stovek souborů se do Webmailu bude načítat hodně pomalu a dlouho, kdežto SQL dotaz je rychlý.

Webmail používám mírně poupravený IlohaMail.
--- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---
H0ax avatar 18.3.2008 16:08 H0ax | skóre: 36 | blog: Odnikud_nikam
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Přešel bych na maildir. Velikosti schránek v řádu gigabajtů a tisíce a více mailů nejsou problém.
LinuxWay | blog |  LiCo
18.3.2008 18:00 azurIt | skóre: 34 | blog: zatial_bez_mena
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
pouzivam maildir, klienta Horde/IMP, v schranke mam vyse 2300 mailov a nebadam _akekolvek_ spomalenie. pomalsie je jedine napr. ked si dam spravy utriedit podla niecoho ineho, ako su momentalne utriedene. vyhladavanie je taktiez dostatocne rychle.
18.3.2008 19:36 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
40-50 MiB dat nic není, to také můžou být dva emaily :-) Kombinace dobrého IMAP serveru s rozumným webmailem ti umožní používat i několikagigabajtové schránky s mnoha tisíci emailů. Otestované mám IMAP servery Dovecot a Courier, webmail Squirrel a Roundcube (ten je trochu línější). Oba webmaily přistupují přes IMAP. Když se člověk přihlásí do webmailu tak samozřejmě chvíli trvá než se zobrazí obsah nějaké veliké schránky, ale není to nic tragického.

Můj INBOX má aktuálně něco kolem 800MiB a cca 2000 zpráv - přihlášení do SqurrelMailu trvá něco kolem 5-10s podle vytížení serveru. Roundcube je na tom podobně. Celkem mám ve schránce 4,5GiB (130k souborů) pošty v různých složkách.
-- Nezdar není hanbou, hanbou je strach z pokusu.
18.3.2008 21:33 CandySan | skóre: 9 | blog: bonzacek
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Ahoj, moje soukr posta ma vic jak 11 giga. Jen v INBOXu mam pres 9000 schranek. Mnoho a mnoho podschranek. Jako nejrychlejsi se mi ukazala kombinace maildir formatu a courier imap. Takto mi to ani nezatezuje server a je to velmi svizne (pruser nastava kdyz se TB rozhodne, ze si sosne celej inbox od zacatku, ale to je uz uplne jine tema o tom proc mam takovej neporadek v poste a zda je to nutne...). Na dorucovani pouzivam postfix a procmail. Vsechny definice schranek (ale i ftp ucty, dns zaznamy atd...) mam v databazi. Databaze mi prinasi mnoho vyhod s administraci (pouzivam postgres a hodne vyuzivam pohledy, triggery a funkce), ale obecne lze rici, ze ukladat fajly do db neni snad nikdy vhodne reseni. Blbe se to zalohuje a databaze se ti muze celkem snadno poskodit - pak tam loadovat takove mnozstvi dat zpatky je jednak horor a druhak to trva hodne moc dlouho. Pokud tedy nastane katastrofa, pak se ti hodi kazda usetrena minuta a neni dobre takto casem plytvat. Taktez je pravda, ze to je nestandardni format ulozenych dat a ze tedy logicky budes postupne behem pouzivani narazet na spoustu dalsich potizi, ktere dnes treba ani nikoho z nas nemusi napadnout.

Jetse mne napadlo, ze se mi v jedne schrance obcas okoti tolik zasilek, ze jsou jich uz stovky tisic (malickate textove mailiky - hlasky z ruznych serveru) a tech pak muze byt az tak moc, ze nad nimi nelze uz udelat dirlist. Tohle by databaze vyresit umela a pokud by to nebyl jen muj neporadek, ale pokud by to skutecne bylo potreba, pak by to byla vyjimka a skutecny duvod pro ukladani fajlu do db. Mas tedy pocit, ze potrebujes mit adresar (rekneme ten inbox) s pul milionem zasilek, se kterymi skutecne chces pracovat?
19.3.2008 09:06 Dramon | skóre: 14
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Limit 50 MB na schránku je limitem defaultní konfigurace Postfixu a dá se nastavit parametrem "mailbox_size_limit". Po čase používání jsem ale narazil na druhý limit a to 2 GB. Ten se mi nepodařilo "prolomit", ale dlužno říct, že jsem se moc nesnažil. Už mi totiž formát mailbox lezl krkem a nahradil jsem jej maildirem.
Takže nyní používám Postfix a IMAP pomocí Dovecotu a je to svižné, bez velikostních limitů a hlavně smazání mailů z prostředka schránky je bleskurychlé a není nutné setřásat jednou za čas mailbox, aby tam nebyly MB smazaných mailů. Plus se to mnohem lépe zálohuje. Prostě spousta výhod :)
Co se týká výkonu, tak mám ve své schránce cca 9.000 mailů a jako klienta používám Thunderbirda bez offline souborů a jede to jako blesk. Včetně hledání podle subj, odesilatelů atp. Podle těla moc nehledám, ale i tak to je celkem rychlé - zmíněných 9000 mailů (490 MB) mi to prohledá za necelých 30 vteřin. Pro lepší výsledky bych použil nějaký index SW na klientovi. Například Beagle.
S offline soubory v TB mám zkušenosti, že se občas chovají divně - nejsou vidět nové maily atp. V Evolutionu mi vždy docela dlouho trvala první synchronizace po jeho zapnutí.
Ve firemní spamové schránce se mi nashromáždilo za rok 47.000 mailů a i to jede jako čert, když se tam dívám po nějaké false-positive zprávě.
19.3.2008 10:20 azurIt | skóre: 34 | blog: zatial_bez_mena
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Po čase používání jsem ale narazil na druhý limit a to 2 GB.

zrejme limit na maximalnu velkost suboru (man ulimit)
19.3.2008 10:34 Martin H. | skóre: 27 | blog: linservis | Brno
Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
Všem moc děkuji za názory a nápady. Omezení schránky na 2GB zkusím, mohlo by to pomoci při mém současném oddalování úpravy, pravděpodobně zkusím některé z nabízených řešení.

Přesně toto jsem potřeboval, ještě jednou děkuji za Vaše příspěvky.
--- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---

Založit nové vláknoNahoru

Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

ISSN 1214-1267   www.czech-server.cz
© 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.