abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

    dnes 12:00 | Nová verze

    Byla vydána nová stabilní verze 23.05 linuxové distribuce NixOS (Wikipedie). Její kódové označení je Stoat. Podrobný přehled novinek v poznámkách k vydání. O balíčky se v NixOS stará správce balíčků Nix.

    Ladislav Hagara | Komentářů: 0
    dnes 11:44 | Bezpečnostní upozornění

    Příspěvek na blogu CZ.NIC upozorňuje na nový útok na weby v Česku. Na honeypotech na Turrisech byla zaznamenána nová aktivita útočníků - probíhající útok na FTP servery, které se vyskytují na stejné IP adrese, jako aktivní WEB server.

    Ladislav Hagara | Komentářů: 0
    včera 23:44 | Nová verze

    Rakudo (Wikipedie), tj. překladač programovacího jazyka Raku (Wikipedie), byl vydán ve verzi 2023.05. Programovací jazyk Raku byl dříve znám pod názvem Perl 6.

    Ladislav Hagara | Komentářů: 0
    včera 20:22 | IT novinky

    Linux Foundation Europe představila projekt RISE (RISC-V Software Ecosystem), jehož cílem je urychlit vývoj open source softwaru pro architekturu RISC-V.

    Ladislav Hagara | Komentářů: 0
    včera 14:55 | Nová verze

    Armbian, tj. linuxová distribuce založená na Debianu a Ubuntu pro jednodeskové počítače na platformě ARM, byl vydán ve verzi 23.05. Přehled novinek v Changelogu.

    Ladislav Hagara | Komentářů: 0
    včera 12:33 | Komunita

    Minulý týden proběhla openSUSE Conference 2023. Mimo jiné bylo oznámeno přejmenování systému MicroOS Desktop. MicroOS Desktop GNOME byl přejmenován na openSUSE Aeon a MicroOS Desktop Plasma na openSUSE Kalpa.

    Ladislav Hagara | Komentářů: 0
    včera 09:00 | Komunita

    Thom Holwerda z OSnews si všímá, že vývoj operačního systému MINIX je prakticky mrtvý. Jeho hlavní autor, Andrew Tanenbaum, formálně odešel do důchodu v roce 2014 a příspěvky do kódu v následujících letech vůbec ustaly. Stav projektu shrnuje diskuze z roku 2020. Sice vyšlo najevo, že Intel používal MINIX v Management Engine, ale změny nezveřejňoval.

    Fluttershy, yay! | Komentářů: 1
    včera 07:00 | Nová verze

    Google Chrome 114 byl prohlášen za stabilní. Nejnovější stabilní verze 114.0.5735.90 přináší řadu oprav a vylepšení (YouTube). Vypíchnut je CHIPS (Cookies Having Independent Partitioned State). Opraveno bylo 16 bezpečnostních chyb. Vylepšeny byly také nástroje pro vývojáře.

    Ladislav Hagara | Komentářů: 0
    30.5. 17:33 | Komunita

    Byly zveřejněny prezentace a videozáznamy přednášek a fotografie z česko-slovenského setkání poskytovatelů přístupu k internetu, provozovatelů telekomunikačních sítí, registrátorů domén a provozovatelů počítačových sítí a technických nadšenců CSNOG 2023 (Czech and Slovak Network Operators Group) konaného 16. a 17. května ve Zlínu.

    Ladislav Hagara | Komentářů: 0
    30.5. 17:00 | Pozvánky

    Soutěž amatérských robotů Robotický den 2023 proběhne v neděli 4. června v Kongresovém centru Praha.

    Ladislav Hagara | Komentářů: 0
    Obnovovací frekvenci obrazovky (LCD) preferuji
     (74%)
     (20%)
     (4%)
     (2%)
    Celkem 850 hlasů
     Komentářů: 13, poslední 25.5. 07:25
    Rozcestník

    Dotaz: Převod dat z MAILBOX souborů do MySQL databáze

    18.3.2008 14:07 Martin H. | skóre: 27 | blog: linservis | Brno
    Převod dat z MAILBOX souborů do MySQL databáze
    Přečteno: 507×
    Nainstaloval jsem server a rozchodil Postfix. Postupem času přibyly virtuální hostingy různých známých a jejich schránky utěšeně rostou (dlužno dodat že většinou blbostmi, ale oni na nich lpí).

    Proto jse se rozhodl převést poštu do MySQL. Jak však mám převést existující zprávy do MySQL databáze, aby o ně nepřišli?

    Hledal jsem, ale to asi ještě nikdo neřešil.

    Nemá někdo tip, jak na to?

    Předem díky za každou konstruktivní odpověď.
    --- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---

    Odpovědi

    18.3.2008 14:20 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Ahoj,

    co si od toho slibuješ? Osobně si myslím, že to není moc dobrý nápad.

    Budeš muset vyřešit následující věci:
    • doručování do schránky - MDA
    • třídění pošty (maildrop, procmail, dovecot-lda necpou data přímo do mysql)
    • přístup k poště - IMAP/POP3 daemon
    • zálohování - snadněji se zálohují maildiry než databáze
    • další služba - možná úzké hrdlo
    • budeš mít data v dost nestandardním formátu - migrace do jiného prostředí bude složitá
    • ...
    Pokud skutečně toužíš po tom mít vše v databázi, tak vyzkoušej dbmail.

    Z.
    -- Nezdar není hanbou, hanbou je strach z pokusu.
    18.3.2008 14:21 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Co tě omezuje na stávajícím řešení? Co si slibuješ od dat v MySQL?
    -- Nezdar není hanbou, hanbou je strach z pokusu.
    18.3.2008 16:03 Martin H. | skóre: 27 | blog: linservis | Brno
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Pro oba: omezuje mě to, že pokud je ve schránce cca 40-50 MB dat, pak se do schránky nelze přihlásit.

    IMAP používám už dnes, ti známí jsou BFU a přistupují většinou přes IMAP/Webmail rozhraní.

    Našel jsem popis, jak doručovat do MySQL a zdálo se mi to jako vhodné řešení.

    Ano, MALDIR jsem zvažoval, ale mám obavu, že i tak několik stovek souborů se do Webmailu bude načítat hodně pomalu a dlouho, kdežto SQL dotaz je rychlý.

    Webmail používám mírně poupravený IlohaMail.
    --- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---
    H0ax avatar 18.3.2008 16:08 H0ax | skóre: 36 | blog: Odnikud_nikam
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Přešel bych na maildir. Velikosti schránek v řádu gigabajtů a tisíce a více mailů nejsou problém.
    uid=0(root) gid=0(root) skupiny=0(root)
    18.3.2008 18:00 azurIt | skóre: 34 | blog: zatial_bez_mena
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    pouzivam maildir, klienta Horde/IMP, v schranke mam vyse 2300 mailov a nebadam _akekolvek_ spomalenie. pomalsie je jedine napr. ked si dam spravy utriedit podla niecoho ineho, ako su momentalne utriedene. vyhladavanie je taktiez dostatocne rychle.
    18.3.2008 19:36 Zdeněk Burda | skóre: 61 | blog: Zdendův blog | Praha
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    40-50 MiB dat nic není, to také můžou být dva emaily :-) Kombinace dobrého IMAP serveru s rozumným webmailem ti umožní používat i několikagigabajtové schránky s mnoha tisíci emailů. Otestované mám IMAP servery Dovecot a Courier, webmail Squirrel a Roundcube (ten je trochu línější). Oba webmaily přistupují přes IMAP. Když se člověk přihlásí do webmailu tak samozřejmě chvíli trvá než se zobrazí obsah nějaké veliké schránky, ale není to nic tragického.

    Můj INBOX má aktuálně něco kolem 800MiB a cca 2000 zpráv - přihlášení do SqurrelMailu trvá něco kolem 5-10s podle vytížení serveru. Roundcube je na tom podobně. Celkem mám ve schránce 4,5GiB (130k souborů) pošty v různých složkách.
    -- Nezdar není hanbou, hanbou je strach z pokusu.
    18.3.2008 21:33 CandySan | skóre: 11 | blog: bonzacek
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Ahoj, moje soukr posta ma vic jak 11 giga. Jen v INBOXu mam pres 9000 schranek. Mnoho a mnoho podschranek. Jako nejrychlejsi se mi ukazala kombinace maildir formatu a courier imap. Takto mi to ani nezatezuje server a je to velmi svizne (pruser nastava kdyz se TB rozhodne, ze si sosne celej inbox od zacatku, ale to je uz uplne jine tema o tom proc mam takovej neporadek v poste a zda je to nutne...). Na dorucovani pouzivam postfix a procmail. Vsechny definice schranek (ale i ftp ucty, dns zaznamy atd...) mam v databazi. Databaze mi prinasi mnoho vyhod s administraci (pouzivam postgres a hodne vyuzivam pohledy, triggery a funkce), ale obecne lze rici, ze ukladat fajly do db neni snad nikdy vhodne reseni. Blbe se to zalohuje a databaze se ti muze celkem snadno poskodit - pak tam loadovat takove mnozstvi dat zpatky je jednak horor a druhak to trva hodne moc dlouho. Pokud tedy nastane katastrofa, pak se ti hodi kazda usetrena minuta a neni dobre takto casem plytvat. Taktez je pravda, ze to je nestandardni format ulozenych dat a ze tedy logicky budes postupne behem pouzivani narazet na spoustu dalsich potizi, ktere dnes treba ani nikoho z nas nemusi napadnout.

    Jetse mne napadlo, ze se mi v jedne schrance obcas okoti tolik zasilek, ze jsou jich uz stovky tisic (malickate textove mailiky - hlasky z ruznych serveru) a tech pak muze byt az tak moc, ze nad nimi nelze uz udelat dirlist. Tohle by databaze vyresit umela a pokud by to nebyl jen muj neporadek, ale pokud by to skutecne bylo potreba, pak by to byla vyjimka a skutecny duvod pro ukladani fajlu do db. Mas tedy pocit, ze potrebujes mit adresar (rekneme ten inbox) s pul milionem zasilek, se kterymi skutecne chces pracovat?
    19.3.2008 09:06 Dramon | skóre: 14
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Limit 50 MB na schránku je limitem defaultní konfigurace Postfixu a dá se nastavit parametrem "mailbox_size_limit". Po čase používání jsem ale narazil na druhý limit a to 2 GB. Ten se mi nepodařilo "prolomit", ale dlužno říct, že jsem se moc nesnažil. Už mi totiž formát mailbox lezl krkem a nahradil jsem jej maildirem.
    Takže nyní používám Postfix a IMAP pomocí Dovecotu a je to svižné, bez velikostních limitů a hlavně smazání mailů z prostředka schránky je bleskurychlé a není nutné setřásat jednou za čas mailbox, aby tam nebyly MB smazaných mailů. Plus se to mnohem lépe zálohuje. Prostě spousta výhod :)
    Co se týká výkonu, tak mám ve své schránce cca 9.000 mailů a jako klienta používám Thunderbirda bez offline souborů a jede to jako blesk. Včetně hledání podle subj, odesilatelů atp. Podle těla moc nehledám, ale i tak to je celkem rychlé - zmíněných 9000 mailů (490 MB) mi to prohledá za necelých 30 vteřin. Pro lepší výsledky bych použil nějaký index SW na klientovi. Například Beagle.
    S offline soubory v TB mám zkušenosti, že se občas chovají divně - nejsou vidět nové maily atp. V Evolutionu mi vždy docela dlouho trvala první synchronizace po jeho zapnutí.
    Ve firemní spamové schránce se mi nashromáždilo za rok 47.000 mailů a i to jede jako čert, když se tam dívám po nějaké false-positive zprávě.
    19.3.2008 10:20 azurIt | skóre: 34 | blog: zatial_bez_mena
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Po čase používání jsem ale narazil na druhý limit a to 2 GB.

    zrejme limit na maximalnu velkost suboru (man ulimit)
    19.3.2008 10:34 Martin H. | skóre: 27 | blog: linservis | Brno
    Rozbalit Rozbalit vše Re: Převod dat z MAILBOX souborů do MySQL databáze
    Všem moc děkuji za názory a nápady. Omezení schránky na 2GB zkusím, mohlo by to pomoci při mém současném oddalování úpravy, pravděpodobně zkusím některé z nabízených řešení.

    Přesně toto jsem potřeboval, ještě jednou děkuji za Vaše příspěvky.
    --- Kapitalismus je lepší, než socialismus ... ale horší, než jsem čekal. (Jiří Suchý) ---

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.