abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

    dnes 13:33 | Upozornění

    Z aktualizovaného seznamu chyb (pdf) procesoru AMD EPYC 7002: #1474 - procesor se po 1044 dnech od posledního resetu zasekne [reddit].

    Ladislav Hagara | Komentářů: 4
    dnes 13:00 | Nová verze

    Fossil (Wikipedie) byl vydán ve verzi 2.22. Jedná se o distribuovaný systém správy verzí propojený se správou chyb, wiki stránek a blogů s integrovaným webovým rozhraním. Vše běží z jednoho jediného spustitelného souboru a uloženo je v SQLite databázi.

    Ladislav Hagara | Komentářů: 0
    dnes 12:22 | Zajímavý článek

    David Malcolm se ve svém příspěvku na blogu vývojářů Red Hatu rozepsal o vylepšeních statické analýzy (volba -fanalyzer) v GCC 13.

    Ladislav Hagara | Komentářů: 1
    dnes 12:00 | Nová verze

    Byla vydána nová stabilní verze 23.05 linuxové distribuce NixOS (Wikipedie). Její kódové označení je Stoat. Podrobný přehled novinek v poznámkách k vydání. O balíčky se v NixOS stará správce balíčků Nix.

    Ladislav Hagara | Komentářů: 0
    dnes 11:44 | Bezpečnostní upozornění

    Příspěvek na blogu CZ.NIC upozorňuje na nový útok na weby v Česku. Na honeypotech na Turrisech byla zaznamenána nová aktivita útočníků - probíhající útok na FTP servery, které se vyskytují na stejné IP adrese, jako aktivní WEB server.

    Ladislav Hagara | Komentářů: 0
    včera 23:44 | Nová verze

    Rakudo (Wikipedie), tj. překladač programovacího jazyka Raku (Wikipedie), byl vydán ve verzi 2023.05. Programovací jazyk Raku byl dříve znám pod názvem Perl 6.

    Ladislav Hagara | Komentářů: 0
    včera 20:22 | IT novinky

    Linux Foundation Europe představila projekt RISE (RISC-V Software Ecosystem), jehož cílem je urychlit vývoj open source softwaru pro architekturu RISC-V.

    Ladislav Hagara | Komentářů: 0
    včera 14:55 | Nová verze

    Armbian, tj. linuxová distribuce založená na Debianu a Ubuntu pro jednodeskové počítače na platformě ARM, byl vydán ve verzi 23.05. Přehled novinek v Changelogu.

    Ladislav Hagara | Komentářů: 0
    včera 12:33 | Komunita

    Minulý týden proběhla openSUSE Conference 2023. Mimo jiné bylo oznámeno přejmenování systému MicroOS Desktop. MicroOS Desktop GNOME byl přejmenován na openSUSE Aeon a MicroOS Desktop Plasma na openSUSE Kalpa.

    Ladislav Hagara | Komentářů: 0
    včera 09:00 | Komunita

    Thom Holwerda z OSnews si všímá, že vývoj operačního systému MINIX je prakticky mrtvý. Jeho hlavní autor, Andrew Tanenbaum, formálně odešel do důchodu v roce 2014 a příspěvky do kódu v následujících letech vůbec ustaly. Stav projektu shrnuje diskuze z roku 2020. Sice vyšlo najevo, že Intel používal MINIX v Management Engine, ale změny nezveřejňoval.

    Fluttershy, yay! | Komentářů: 6
    Twitter (nejen pro příležitostné čtení)
     (71%)
     (14%)
     (14%)
    Celkem 7 hlasů
     Komentářů: 0
    Rozcestník

    Dotaz: latin1 a latin2 do utf8

    mahoney avatar 23.12.2011 20:36 mahoney | Pelhřimov
    latin1 a latin2 do utf8
    Přečteno: 950×
    dobry den,

    mam tady jeden dump stare databaze, kde jsou namichane znaky z latin1 i latin2.

    neznate prosim nekdo postup, jak takovy soubor prevest do utf8?

    dekuji


    Řešení dotazu:


    Odpovědi

    23.12.2011 20:39 lightbringer
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    Iconv?
    mahoney avatar 23.12.2011 20:46 mahoney | Pelhřimov
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    :-) no jo, ale jak?

    $ iconv -f latin1 -t latin2 dump.sql > /dev/null

    iconv: illegal input sequence at position 2471

    $ iconv -f latin2 -t latin1 dump.sql > /dev/null

    iconv: illegal input sequence at position 2471

    ja spis myslim, ze bude potreba nejakeho skriptu, ktery _selektivne_ prevede znaky na jedno spolecne kodovani. a mozna uz takovy skript nekdo napsal. jenomze se mi ho nedari vygooglit

    Josef Kufner avatar 23.12.2011 21:32 Josef Kufner | skóre: 70
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    iconv -f latin1 -t utf8 ...
    iconv -f latin2 -t utf8 ...
    Latin1 a Latin2 nelze bezeztráty převádět tam a zpět, protože ty kódování prostě obsahují každé něco jiného.

    Pokud chceš ztrátový převod, tak:
    iconv -f neco -t neco_jineho//translit ...
    Vybírá to vizuálně podobné znaky.
    Hello world ! Segmentation fault (core dumped)
    Řešení 1× (mahoney (tazatel))
    23.12.2011 21:49 l0gik | skóre: 22
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    Jestli to chápu, tak máš ve stejném sloupci různé znakové sady (pokud je vždy sloupec stejný, tak pomocí SQL příkazů to před exportem opravíš snadno, to asi víš). Navíc evidentně to není jen "cestina" v latin1, protože ta by šla zkonvertovat do latin2, opravdu se tam využívají znaky z obou znakových sad. V tu chvíli seš prostě "v kopru", protože principiálně nejde rozlišit, kterej řádek je v kterym kódování. Jak bys to chtěl udělat? To jde udělat jen podle významu a není vyloučeno, že ta samá posloupnost bytů bude mít význa v obou kódováních.

    Jediný, co můžeš, je udělat nějakou fci, která se to pokusí heuristicky poznat, např. tak, že nadefinuješ "raritu znaků", podle toho jak často se (ne)vyskytují v daném jazyce a nějakou hodnotící fci (např. sumu kvadrátů rarity) se pokusíš odhadnout, jestli je danej řádek v tom nebo v tom kódování a převíst řádek po řádce nějakym skriptem (iconv je i např. v php). Nebo zkusit lookup jednotlivých slov proti slovníku - pokud nějakej máš, popř. nastudovat formát mozilly.

    Jinak samozřejmě latin1 a latin2 jsou nepoměřitelné množiny kódování, takže nemůžeš konvertovat jednu do druhý, musíš je vždy konvertovat na nějakou nadmnožinu (čili utf8). Konverze z latin1 do latin2 ti selže na znacích, které jsou v latin1 ale ne v latin2. Zdali to selže ale nemůžeš brát jako bernou minci pro to, jaké je to kódování: selhání Ti pouze vybere řádky, u kterých je třeba rozhodnout, zdali jsou v latin1 nebo latin2, protože prostě v těch řádkách je znak, kterej má jinej "smysl" v latin1 a v latin2 - nijak z toho nepoznáš, jestli tam má bejt ř, nebo ø.

    Teoreticky bys teda moh udělat dump s tím, že každej řádek bude na novym řádku (popř. nahradit ), ( za novej řádek), provýst konverzi pomocí iconv s iconv -f latin1 -t latin2//ignore || iconv -t latin1 -f latin2 a pak diffem porovnat. A pokud bude jen málo lišících se řádek (tzn většina bude "cesky"), tak to rozhodnout manuálně. Ale pokud je v databázi čeština, tak se Ti bude lišit každej řádek, kde je např. š.

    23.12.2011 21:00 Kit
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    Používám recode. S parametrem -f občas snese i divné vstupní kódování. Rozhodně bych se nepokoušel převádět latin2 do latin1, protože tím přijdeš o všechny znaky s háčky. Spíš bych konvertoval latin2 do utf8 a pak teprve řešil zbytek.

    Můžeš zkusit i standardní utilitu tr, ale asi ti dá trochu víc zabrat konfigurace parametrů.
    Řešení 1× (mahoney (tazatel))
    23.12.2011 22:39 Šangala | skóre: 56 | blog: Dutá Vrba - Wally
    Rozbalit Rozbalit vše Re: latin1 a latin2 do utf8
    Podle mě nelze obecně převést text mixovaný z latin1 a latin2 do utf-8.
    Ale tipl bych si, že jsou to různé sloupce s různým kováním, pak je tedy nutné takto je překládat.
    Nejsnazší je asi dump binárně nahrnou do DB s tím, že struktura se před sypáním dat opraví tak, aby jednotlivé sloupce měli patřičné kódování latin1, latin2 a pak se to dumpne ven v UTF-8.
    Jinak by se musel parsovat dump a to by mě teda nebavilo :-).
    To, že trpíš stihomamem, ještě neznamená, že po tobě nejdou. ⰞⰏⰉⰓⰀⰜⰉ ⰗⰞⰅⰜⰘ ⰈⰅⰏⰉ ⰒⰑⰎⰉⰁⰕⰅ ⰏⰉ ⰒⰓⰄⰅⰎ ·:⁖⁘⁙†

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.