abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×

dnes 12:55 | Nová verze

Byla vydána verze 17.12.0 KDE Aplikací (KDE Applications). Přehled novinek v kompletním seznamu změn a na stránce s dalšími informacemi. Aplikace, které nebyly dosud portovány na KDE Frameworks 5, byly z KDE Aplikací odstraněny.

Ladislav Hagara | Komentářů: 17
dnes 03:00 | Komunita

Na Humble Bundle lze získat počítačovou hru Company of Heroes 2 (Wikipedie, YouTube) běžící také v Linuxu zdarma. Speciální akce končí v sobotu v 19:00.

Ladislav Hagara | Komentářů: 0
dnes 02:00 | Zajímavý software

Christian Kellner představil na svém blogu projekt Bolt řešící bezpečnost rozhraní Thunderbolt 3 na Linuxu. Pomocí příkazu boltctl nebo rozšíření GNOME Shellu lze komunikovat s démonem boltd a například zakázat neznámá zařízení a předejít tak útokům typu Thunderstrike nebo DMA.

Ladislav Hagara | Komentářů: 6
dnes 01:00 | Nová verze

Po půl roce vývoje od vydání verze 11.0 byla vydána verze 11.1 svobodného softwaru pro vytváření datových úložišť na síti FreeNAS (Wikipedie). Nejnovější FreeNAS je postaven na FreeBSD 11.1. Přehled novinek v příspěvku na blogu. Zdůraznit lze zvýšení výkonu OpenZFS, počáteční podporu Dockeru nebo synchronizaci s cloudovými službami Amazon S3 (Simple Storage Services), Backblaze B2 Cloud, Google Cloud a Microsoft Azure

Ladislav Hagara | Komentářů: 0
včera 23:55 | Nová verze

Po dvou měsících vývoje od vydání verze 235 oznámil Lennart Poettering vydání verze 236 správce systému a služeb systemd (GitHub, NEWS).

Ladislav Hagara | Komentářů: 6
včera 20:00 | Nová verze Ladislav Hagara | Komentářů: 0
včera 19:33 | Pozvánky

Pražská Fedora 27 Release Party, oslava nedávného vydání Fedory 27, se uskuteční 19. prosince od 19:00 v prostorách společnosti Etnetera (Jankovcova 1037/49). Na programu budou přednášky o novinkách, diskuse, neřízený networking atd.

Ladislav Hagara | Komentářů: 0
včera 18:11 | Nová verze

Byla vydána verze 2.11.0 QEMU (Wikipedie). Přispělo 165 vývojářů. Provedeno bylo více než 2 000 commitů. Přehled úprav a nových vlastností v seznamu změn.

Ladislav Hagara | Komentářů: 0
včera 17:44 | Komunita

Canonical oznámil dostupnost kryptografických balíčků s certifikací FIPS 140-2 úrovně 1 pro Ubuntu 16.04 LTS pro předplatitele podpory Ubuntu Advantage Advanced. Certifikace FIPS (Federal Information Processing Standards) jsou vyžadovány (nejenom) vládními institucemi USA.

Ladislav Hagara | Komentářů: 3
včera 16:11 | Zajímavý software

Společnost Avast uvolnila zdrojové kódy svého dekompilátoru RetDec (Retargetable Decompiler) založeného na LLVM. Vyzkoušet lze RetDec jako webovou službu nebo plugin pro interaktivní disassembler IDA. Zdrojové kódy RetDec jsou k dispozici na GitHubu pod open source licencí MIT.

Ladislav Hagara | Komentářů: 3
Jak se vás potenciálně dotkne trend odstraňování analogového audio konektoru typu 3,5mm jack z „chytrých telefonů“?
 (8%)
 (1%)
 (1%)
 (1%)
 (76%)
 (14%)
Celkem 997 hlasů
 Komentářů: 45, poslední 1.12. 19:00
    Rozcestník

    Dotaz: Převod UTF-8 do UNICODE v C

    tomes.io avatar 2.3.2012 19:48 tomes.io | skóre: 12 | blog: tomesh
    Převod UTF-8 do UNICODE v C
    Přečteno: 1359×
    Zdravim,

    resim problem v C tykajici se prevodu kodovani. Na vstupu predpokladam korektni HEX znak v UTF-8 kodovani v rozsahu 1-4 bajty. Vystupem pak ma byt tento znak prevedeny do HEX unicode. Vychazim z informaci na wiki (ale i jinde) o UTF-8 kodovani. Napsal jsem nasledujici fci vyuzivajici bitove masky (x je ze scanf("%X", &x) ktere se posle jako vstup do fce:

    unsigned int convUnicode(int x) {

    unsigned int y = 0, m = 0, n = 0;

    m = y = n = x;

    x = (x & 0x7000000);

    x = x >> 6;

    n = (n & 0xF0000);

    n = n >> 4;

    m = (m & 0x3F00);

    m = m >> 2;

    y = (y & 0x003F);

    x = x | y | m | n;

    printf("0x%X\n", x);

    return 0; }

    Problem je ten, ze u jednobitovych znaku mi fce na outputu dava korektne jen cisla 1-39- 40 vypise jako 0x0, 41 jako 0x1 atd. az do 80. 80 vypise jako 0x0, 81 jako 0x1... proste to jakoby funguje jen po cislo 39 ap ka to jede od znovu. VIcebitove vstupy jsem zatim netestoval moc, dosud se zdaji byt korektni, ale musim to testovat na vetsi skale cisel.

    Opravdu by me zajimalo, v cem delam chybu. S praci na bitove urovni mam v C opravdu minimalni zkusenosti, takze by me zajimalo, co a jak delam blbe. Idealne, kdyby mi nekdo poradil, nebo apson navedl na zpusob korektni implemntace. Nechci aby to nekdo vyresil za me, jen chci nakopnout.

    Řešení dotazu:


    Odpovědi

    tomes.io avatar 2.3.2012 20:00 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Tak jsem si vsiml chybky, na wikinach o UTF-8 kodovani pisou o 007F... atd. a ja mam 003F..

    Unicode kód od - do Binární zápis znaku v UTF-8 0000 0000 - 0000 007F 0xxxxxxx 0000 0080 - 0000 07FF 110xxxxx 10xxxxxx 0000 0800 - 0000 FFFF 1110xxxx 10xxxxxx 10xxxxxx 0001 0000 - 001F FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

    Nicmene, i po uprave masek na 007F se mi HEX korektne vypisuje jen do vstupu 79 (= 0x79). 80 uz koduje jako 0x0.. :( Je jasne, ze do 127 se jedna porad o ASCII, ale jak to namaskovat, aby tam byla ta implementace UTF-8 do UNICODE?
    2.3.2012 20:32 Kit
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Máš to nějaké zmatené.
    • Co je to jednobitový znak?
    • Proč to neděláš klasicky odčítáním nebo rychle přes mapu?
    • Co je to HEX znak v UTF-8 kodovani v rozsahu 1-4 bajty? UTF-8 může být na 1-6 bytech, když to bude HEX, tak 2-12 bytů
    • Co si představuješ pod pojmem "Vícebitové vstupy?" Všechny znaky v UTF-8 jsou vícebitové
    • Proč ty proměnné posouváš po 2 bitech?
    • Proč na výpis programu nepoužíváš <pre>, aby se to dalo číst?
    tomes.io avatar 2.3.2012 20:49 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    ad 1) 1 bitovy znak: myslel jsem 1 bajtový znak. napriklad cislo 68.

    ad 2) psal jsem, ze na bitove urovni jsem nikdy neprogramoval, je to pro me spanelska vesnice, bohuzel jsme tento priklad dostali za domaci ukol. nevedel jsem vubec, od ceho se odpichnout, takze nevim, jak se to dela "klasicky" odcitanim (co se od ceho odcita?), nikdo me neucil zadny rychly zpusob pres mapu, nas postavili ve skole pred hotovou vec...(zadani znelo: Vašou úlohou je napísať program, ktorý číta hexadecimálne kódy znakov UTF-8 zo štandardného vstupu. do hodnoty znaku v Unicode tabuľke. prvé číslo v dekadickom formáte, určuje počet nasledovných čísiel, číslo bude vždy validný UTF-8 kód)

    ad 3) - na vstupu se predpoklada UTF-8 znak v hexadecimalnim tvaru

    ad 4) myslel jsem vicebajtove, spatne jsem to napsal

    ad5) myslel jsem, ze kdyz se treba 2 bajtove cislo pomoci masky "oreze" tak je treba ho oṕosunout o orezany pocet bitu. jak rikam, jsem v tomto novacek a jak vidis, hodne v tom plavu, takze experimentuju a zkousim...ten posuv pri dekoduje korektne nektere znaky (napr pri vstupu CAAC mi korektne vypise vystup 2AC)

    ad6) protoze jsem debil :) odted budu pouzivat
    2.3.2012 20:41 Vlk
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Domácí úkol do úvodu v Cčku na Fakultě informatiky MU ? :-)
    2.3.2012 20:49 Jan Trávníček | skóre: 10 | blog: ehonza | Existuje
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Nebo na FIT CVUT?
    To mess up a Linux box, you need to work at it; to mess up your Windows box, you just have to work on it.
    tomes.io avatar 2.3.2012 20:50 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Ano :) vzhledem k tomu, ze jsem nezastihnul studentskeo poradce, zkousim se ptat tady. Potrebuju nakopnout, tohle bitovep ocitani je pro me neco uplne novyho..
    2.3.2012 20:47 lertimir | skóre: 61 | blog: Par_slov
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    tomes.io avatar 2.3.2012 21:26 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    JA se nesnazim nic vynalezt to chran Buddha :)

    Jen je tohle pro me absolutne nove, takze se snazim prijit na to, co s tim. Jak vytvorit spravne masky, jak je pouzit. Nikdy predtim jsem to nedelal, to je jako kdyz posadis cloveka ktery sely zivot ridil v superbu do lady nivy...

    Rekli nam, ze vse potrebne najdem na wiki, nebo googlu. OK, mam tady tu tabulku:
    U-00000000 – U-0000007F: 	0xxxxxxx
    U-00000080 – U-000007FF: 	110xxxxx 10xxxxxx
    U-00000800 – U-0000FFFF: 	1110xxxx 10xxxxxx 10xxxxxx
    U-00010000 – U-001FFFFF: 	11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
    U-00200000 – U-03FFFFFF: 	111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
    U-04000000 – U-7FFFFFFF: 	1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxx
    Nerudovska otazka, co s ni? 0 - 7F to je prvnich 127, tedy ASCII. Otazka zni: uzit nejakou masku?

    U-00000080 – U-000007FF:. Tak a ted jak zprvniho bajtu oriznout 110 a z druheho 10?

    Kdyz pouziju:
    scanf("%X", &x);
    
    x = (x & 0x7FF);
    
    printf("0x%X\n", x);
    Tak se zda, ze to dekoduje v pohode.

    Ale v pripade 3 bajtoveho (U-00000800 – U-0000FFFF) znaku to uz nedekoduje v pohode:
    x = (x & 0xFFFF);
    Takze ja proste nevim jak spravne vyuzit tu tabulku z wiki a dalsich odkazu, nevim jak to spravne namaskovat.

    Mozna by to slo postupnym rozlozenim cisla na jednotlive bajty a ty pak orezat. Ale nevim, jak se takovy rozklad v C implementuje...
    2.3.2012 21:34 l4m4
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Tak a ted jak zprvniho bajtu oriznout 110 a z druheho 10?
    Musíš oříznout ty správné bity, použít opererátory bitového posunu << a >>, abys je posunul, kam patří ve výsledném bajtu, a zkombinovat výsledek pomocí |.

    P.S.: Převod UTF-8 do UNICODE nedává smysl. UTF-8 je representace Unicode, takže co je v UTF-8, to už je v Unicode.
    tomes.io avatar 3.3.2012 21:56 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Tak jsem to vyresil takto. Snad jsem pokryl vsechny moznosti pro 1-4 bajtove vstupy:
     if (x <= 0x7F){ //testuje zda je znak 1 bajtovy ANSII
    
            printf("0x%X\n", x);
    
          }  else if ((x > 0x7F) && (x <= 0xBF)) { //testuje zda je znak jednobajtovy, s hodnotou vyssi nez ANSII
    
                    x = (x & 0x003f);
    
                    printf("0x%X\n", x);
    
          } else if ((x > 0xBF) && (x <= 0xDFBF)){  //testuje dvoubajtove znaky
    
                   x = ((x & 0x1f00) >> 2) | (x & 0x003f);
    
                   printf("0x%X\n", x);
    
          } else if ( (x > 0xDFBF) && (x <= 0xEFBFBF)) { //testuje tribajtove znaky
    
                   x = (((x & 0xF0000) >> 4) | ((x & 0x3f00) >>2) | (x & 0x003f));
    
                   printf("0x%X\n", x);
    
          } else if ((x > 0xEFBFBF) && (x <= 0xF7BFBFBF )){  //testuje ctyrbajtove znaky
    
                    x = ( ((x & 0x7000000) >> 6) | ((x & 0x3f0000) >> 4) | ((x & 0x3f00) >>2) | (x & 0x003f));
    
                   printf("0x%X\n", x);
          }
    
          return 0;
     }
    Jinak UTF-8 do unicode samozreme smysl ma:
    http://www.utf8-chartable.de/
    Cely priklad je vlastne prevodnik z UTF-8 do UNICODE a z UNICODE do UTF-16.
    3.3.2012 22:12 l4m4
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Jinak UTF-8 do unicode samozreme smysl ma
    Ne, tato věta je výrazem nepochopení vztahu Unicode a UTF-8. UTF-8 můžeš převést leda do nějaké jiné representace Unicode, ale pořád bude nějak representováno.

    Tabulka bloku prvních 256 znaků má dokazovat konkrétně co?
    tomes.io avatar 3.3.2012 22:16 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Mozna je to blbe napsane, nebo spis malo jednoznacne. Oficialni zadani zni takto:
    Vašou úlohou je napísať program, ktorý číta hexadecimálne kódy znakov UTF-8 zo štandardného vstupu. Jednotlivé kódy dekóduje najprv do hodnoty znaku v Unicode tabuľke, následne znak opäť zakóduje podľa UTF-16.
    "dekoduje do hodnoty v UNICODE"
    3.3.2012 22:19 l4m4
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Získat z UTF-8 hodnotu znaku (codepoint) v Unicode je samozřejmě smysluplné zadání.
    tomes.io avatar 3.3.2012 22:24 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Ja to chapu tak, ze tu mame sadu znaku UNICODE, ktera se da ruzne kodovat. UTF-8 i UTF-16 jsou ruzne druhy kodovani teze sady UNICODE. Takze nevim, v cem je problem :) Maximalne, v tom, ze jsem to nepresne napsal,to je vsecko...
    tomes.io avatar 3.3.2012 22:12 tomes.io | skóre: 12 | blog: tomesh
    Rozbalit Rozbalit vše Re: Převod UTF-8 do UNICODE v C
    Hm tak to rozdeleni testovani jednobajtoveho je asi blbost. Staci:
     if (x <= 0xBF){ //testuje zda je znak 1 bajtovy
    
            printf("0x%X\n", x);

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.