abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    dnes 13:00 | IT novinky

    Rodina Raspberry Pi se rozrostla o 3 nové členy Raspberry Pi Pico W, H a WH aneb jednočipový počítač Raspberry Pi Pico s Wi-Fi, Header (piny) a Wi-Fi a Header.

    Ladislav Hagara | Komentářů: 0
    dnes 12:22 | Komunita

    Byly zveřejněny prezentace a videozáznamy přednášek z česko-slovenského setkání poskytovatelů přístupu k internetu, provozovatelů telekomunikačních sítí, registrátorů domén a provozovatelů počítačových sítí a technických nadšenců CSNOG 2022 (Czech and Slovak Network Operators Group) konaného 20. a 21. června v Brně.

    Ladislav Hagara | Komentářů: 0
    dnes 08:00 | Nová verze

    Společnost Collabora vydala verzi 22.05 online kancelářského balíku Collabora Online Development Edition (CODE). Přehled novinek i s náhledy v oznámení. Nová je kontrola stylu a gramatiky pomocí LanguageTool. Calc umí 16 384 sloupců. Přidána byla podpora WebP. Zdrojové kódy jsou k dispozici na GitHubu. Vydání Collabora Online s podporou je plánováno na červenec.

    Ladislav Hagara | Komentářů: 0
    včera 16:33 | Humor

    Slovenská ministryně investic, regionálního rozvoje a informatizace používá heslo Mirri2020. Zveřejnila video, kde je vidět heslo nalepené na notebooku (Facebook, TA3).

    Ladislav Hagara | Komentářů: 28
    včera 16:11 | Nová verze

    UBports, nadace a komunita kolem Ubuntu pro telefony a tablety Ubuntu Touch (seznam podporovaných zařízení), vydala Ubuntu Touch OTA-23. Nejnovější verze je pořád založena na Ubuntu 16.04. Pracuje se na přechodu na Ubuntu 20.04.

    Ladislav Hagara | Komentářů: 0
    včera 14:11 | Nová verze

    Svobodný video editor Pitivi (Wikipedie) byl vydán ve verzi 2022.06 — Reel Easing. Z novinek je zdůrazněna možnost sledování objektu pomocí OpenCV a detekce rytmu pomocí librosa. Nový Pitivi by měl být na Flathubu do několika dnů.

    Ladislav Hagara | Komentářů: 0
    včera 13:33 | Zajímavý software

    Vývojáři běhového prostředí (runtime) pro JavaScript a TypeScript Deno oznámili vydání stabilní verze 1.0 full stack web frameworku Fresh pro Deno.

    Ladislav Hagara | Komentářů: 0
    včera 13:11 | IT novinky

    Tvůrci open source notebooku MNT Reform oznámili, že pracují na modelu do kapsy MNT Pocket Reform.

    Ladislav Hagara | Komentářů: 1
    včera 08:00 | Nová verze

    Po Firefoxu 102.0 byl vydán také Thunderbird 102.0. Jedná se o novou major verzi. Přehled novinek v příspěvku na blogu, na stránce s náhledy a animovanými gify (Prowly) a v poznámkách k vydání.

    Ladislav Hagara | Komentářů: 0
    včera 07:00 | Nová verze

    Vývojáři Plasma Mobile vydali novou verzi 22.06 tohoto prostředí a souvisejících aplikací pro mobilní zařízení. Přehled novinek i s náhledy v příspěvku na blogu.

    Ladislav Hagara | Komentářů: 2
    Na sociálních sítích nebo jiných webových diskuzích vystupuji pod
     (64%)
     (18%)
     (18%)
    Celkem 691 hlasů
     Komentářů: 29, poslední 24.5. 00:02
    Rozcestník


    Dotaz: python - hlavička emailu

    22.10.2015 08:10 Milan Uhrák | skóre: 29 | blog: milan_at_ABC
    python - hlavička emailu
    Přečteno: 501×
    Zdravím,

    snažím se během zálohování emailů vytvořit jakousi databázi té zálohy. K tomu potřebuji každý soubor s el. poštou analyzovat a vybrat hlavičky, které mne zajímají.

    zkusil jsem to nejprve v bash přes reformime .. což o to, hlavičky mi to vracelo, ale cat | reformime .... 4x se stejným souborem kvůli čtyřem hlavičkám mi přijde neefektivní ( emailů je kolem 180 GB ). Navíc jsem musel hlavičky stejně ošetřit pythonem (dekódovat).

    Zkusil jsem tedy načtení hlaviček napsat kompletně v Pythonu. Python má nějaké rozšíření mail, ale nepřišel jsem mu na kloub, a způsoben, jakým jsem s ho snažil použít mi stále vyhazoval exceptions u dekódování "To :" ( tak jeden z 50-ti emailů mu neseděl .. ono to zlobilo i s tím reformime a následným dekódováním) ..

    Tady chci představit mou práci (jsem pořád začátečník) požádat o korekce příp navrhnout jinou cestu.

    předem díky.

    Toto je jen funkce, která vytáhne hlavičky. na vzorku emailů se to chovalo korektně, ale možná narazím na nějaké exotické emaily, kde bude výsledek horší.

    Funkce je lehce přizpůsobená z mail.headers (kde problém dělal použitý regulární výraz, jak jsem zjistil ) - regulární výraz je hahrazen otrockou smyčkou ..

    def getheaders ( file_handler ):
    	headers={}
    	needed_headers = ["From: ", "To: ", "Subject: ", "Date: "]
    	we_read = False
    	for mail_line in file_handler:
    		if ( we_read == True ):
    			if( mail_line.startswith(' ') ):
    				cur_header += " "+mail_line.strip();
    			else:
    				headers[h] = cur_header[len(h):]
    				needed_headers.remove(h)
    				we_read = False
    		if ( we_read == False ):		
    			for h in needed_headers:
    				if( mail_line.startswith( h ) ):
    					cur_header=mail_line.strip()
    					we_read = True
    					break
    		if( len(needed_headers) == 0 ):
    			break
    	#print "headers - TO: "
    	#print headers["To: "]
    	return headers
    

    Odpovědi

    xxxxxx avatar 22.10.2015 11:35 xxxxxx | skóre: 23
    Rozbalit Rozbalit vše Re: python - hlavička emailu
    Používat tuhle, jak říkáte otrockou smyčku, tomu bych se vyhnul. Tipoval bych, že zrovna v tomhle bude problém a jeden z X emailů neprojde.

    Našel jsem ovšem tohle a k tomu dokumentaci. Jak je zde psáno: The email package provides a standard parser that understands most email document structures. To by mohlo být řešení pro vás. Nicméně jsem emaily parsovat nezkoušel, pouze vytvářet pomocí tohoto modulu. Tímto byste dostal objekt Message, kde se díky implementované __getitem__ metodě dá dostat k headers jako ke slovníku.
    22.10.2015 13:24 Milan Uhrák | skóre: 29 | blog: milan_at_ABC
    Rozbalit Rozbalit vše Re: python - hlavička emailu
    aha .. no vídíte,

    já prvně používal email.header na už (reformime) vykousané hlavičky, a tam mne to zlobilo. Moje předvedené řešení zatím funguje. problém byl v tom, že email.header nebokázal tím regexpem co má v sobě správně roztrhat některé "To: " položky.

    Liskám to v Py 2.7 (prozatím) na serveru jsem novější verzi doposud nepotřeboval.

    našel jsem si konkrétní zprávy, které způsobovaly problém a testuju to hlavně na nich. tak to ještě zkusím s tím vašim návrhem.

    Jinak děkuji za námět.
    26.10.2015 13:40 Milan Uhrák | skóre: 29 | blog: milan_at_ABC
    Rozbalit Rozbalit vše Re: python - hlavička emailu
    Takže prozatím ( plno práce okolo ) jsem dospěl k tomuto návrhu, ale bohužel, ani toto neparsuje pole adresátů u mnoha emailů správně. Nebudu se v tom pořád hrabat, původní řešení bylo funkční - i když "otrocké", tak to nebudu měnit.

    Řešení je pro PY 2.7, pokud by někdo chtěl s tímto zápasit ..
    def get_headers2( file_handler ):
    	headers={}
    	needed_headers = ["From", "To", "Subject", "Date"]
    	msg = email.message_from_file( file_handler )
    	for h in needed_headers:
    		curr_header = email.header.decode_header( msg.get( h ) )
    		header_sections = [unicode(text, charset or 'ASCII', "ignore") for text, charset in curr_header ]
    		headers[ h ] = u"".join(header_sections)
    	mail_date = msg.get( "Date" )
    	if ( mail_date ):
    		tup_date = email.utils.parsedate_tz( mail_date )
    		if ( tup_date ):
    			ts_date = email.utils.mktime_tz( tup_date )
    			if ( ts_date ):
    				mail_date = datetime.datetime.fromtimestamp( ts_date ).strftime( '%Y-%m-%d %H:%M:%S' )
    	headers[ 'Date' ] = mail_date
    	return headers
    
    

    Zpracování datumu je tam odbyté, ale nepotřebuji na sekundu přesně čas, tak jsem to víc neřešil..
    24.10.2015 09:43 Snow
    Rozbalit Rozbalit vše Re: python - hlavička emailu
    fuj to tvoje formátování kodu je víc než ohavné.
    26.10.2015 13:40 Milan Uhrák | skóre: 29 | blog: milan_at_ABC
    Rozbalit Rozbalit vše Re: python - hlavička emailu
    ulevilo se ti ?
    27.10.2015 13:01 fi
    Rozbalit Rozbalit vše notmuch
    Nehodilo by se vam pouzit toto na spravu metadat o emailech: https://notmuchmail.org/ a pak si to napsat treba v shellu?
    4.11.2015 07:18 Milan Uhrák | skóre: 29 | blog: milan_at_ABC
    Rozbalit Rozbalit vše Re: notmuch
    děkuji, je to zajímavý kanón ... ale ten pythonský kód už vlastně funguje (ale člověk jen zírá, co vše "dokáži" zprasit tzv. email programy - od neskutečných popisů datumu, přes neuvedení charsetu v jiných polích ... Čas odeslání ale v kreativitě vede. ) a drobná škobrtnutí jsou ošetřena dostatečně. Netvořím systém pro další databázové zpracování, ale zase se párkrát stane, že někdo hledá starý smazaný email, a tento výcuc metadat by měl pomoct (dříve, než archiv rozbalím ) určit, jestli má cenu to rozbalovat.

    Tohle je krátký, svižný - byť jednoúčelový - kód, který již dělá, co má.

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.