Dotaz: Převod UTF-8 do UNICODE v C

[tomes.io]

Zdravim,

resim problem v C tykajici se prevodu kodovani. Na vstupu predpokladam korektni HEX znak v UTF-8 kodovani v rozsahu 1-4 bajty. Vystupem pak ma byt tento znak prevedeny do HEX unicode. Vychazim z informaci na wiki (ale i jinde) o UTF-8 kodovani. Napsal jsem nasledujici fci vyuzivajici bitove masky (x je ze scanf("%X", &x) ktere se posle jako vstup do fce:

unsigned int convUnicode(int x) {

unsigned int y = 0, m = 0, n = 0;

m = y = n = x;

x = (x & 0x7000000);

x = x >> 6;

n = (n & 0xF0000);

n = n >> 4;

m = (m & 0x3F00);

m = m >> 2;

y = (y & 0x003F);

x = x | y | m | n;

printf("0x%X\n", x);

return 0; }

Problem je ten, ze u jednobitovych znaku mi fce na outputu dava korektne jen cisla 1-39- 40 vypise jako 0x0, 41 jako 0x1 atd. az do 80. 80 vypise jako 0x0, 81 jako 0x1... proste to jakoby funguje jen po cislo 39 ap ka to jede od znovu. VIcebitove vstupy jsem zatim netestoval moc, dosud se zdaji byt korektni, ale musim to testovat na vetsi skale cisel.

Opravdu by me zajimalo, v cem delam chybu. S praci na bitove urovni mam v C opravdu minimalni zkusenosti, takze by me zajimalo, co a jak delam blbe. Idealne, kdyby mi nekdo poradil, nebo apson navedl na zpusob korektni implemntace. Nechci aby to nekdo vyresil za me, jen chci nakopnout.

---

---

Odpovědi

[tomes.io]

Tak jsem si vsiml chybky, na wikinach o UTF-8 kodovani pisou o 007F... atd. a ja mam 003F..

Unicode kód od - do Binární zápis znaku v UTF-8 0000 0000 - 0000 007F 0xxxxxxx 0000 0080 - 0000 07FF 110xxxxx 10xxxxxx 0000 0800 - 0000 FFFF 1110xxxx 10xxxxxx 10xxxxxx 0001 0000 - 001F FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

Nicmene, i po uprave masek na 007F se mi HEX korektne vypisuje jen do vstupu 79 (= 0x79). 80 uz koduje jako 0x0.. :( Je jasne, ze do 127 se jedna porad o ASCII, ale jak to namaskovat, aby tam byla ta implementace UTF-8 do UNICODE?

[Kit]

Máš to nějaké zmatené.

• Co je to jednobitový znak?
• Proč to neděláš klasicky odčítáním nebo rychle přes mapu?
• Co je to HEX znak v UTF-8 kodovani v rozsahu 1-4 bajty? UTF-8 může být na 1-6 bytech, když to bude HEX, tak 2-12 bytů
• Co si představuješ pod pojmem "Vícebitové vstupy?" Všechny znaky v UTF-8 jsou vícebitové
• Proč ty proměnné posouváš po 2 bitech?
• Proč na výpis programu nepoužíváš <pre>, aby se to dalo číst?

[tomes.io]

ad 1) 1 bitovy znak: myslel jsem 1 bajtový znak. napriklad cislo 68.

ad 2) psal jsem, ze na bitove urovni jsem nikdy neprogramoval, je to pro me spanelska vesnice, bohuzel jsme tento priklad dostali za domaci ukol. nevedel jsem vubec, od ceho se odpichnout, takze nevim, jak se to dela "klasicky" odcitanim (co se od ceho odcita?), nikdo me neucil zadny rychly zpusob pres mapu, nas postavili ve skole pred hotovou vec...(zadani znelo: Vašou úlohou je napísať program, ktorý číta hexadecimálne kódy znakov UTF-8 zo štandardného vstupu. do hodnoty znaku v Unicode tabuľke. prvé číslo v dekadickom formáte, určuje počet nasledovných čísiel, číslo bude vždy validný UTF-8 kód)

ad 3) - na vstupu se predpoklada UTF-8 znak v hexadecimalnim tvaru

ad 4) myslel jsem vicebajtove, spatne jsem to napsal

ad5) myslel jsem, ze kdyz se treba 2 bajtove cislo pomoci masky "oreze" tak je treba ho oṕosunout o orezany pocet bitu. jak rikam, jsem v tomto novacek a jak vidis, hodne v tom plavu, takze experimentuju a zkousim...ten posuv pri dekoduje korektne nektere znaky (napr pri vstupu CAAC mi korektne vypise vystup 2AC)

ad6) protoze jsem debil :) odted budu pouzivat

[Vlk]

Domácí úkol do úvodu v Cčku na Fakultě informatiky MU ?

[Jan Trávníček]

Nebo na FIT CVUT?

[tomes.io]

Ano :) vzhledem k tomu, ze jsem nezastihnul studentskeo poradce, zkousim se ptat tady. Potrebuju nakopnout, tohle bitovep ocitani je pro me neco uplne novyho..

[lertimir]

nevynalézal bych kolo. UTF8-CPP: UTF-8 with C++ in a Portable Way . A info k unicode UTF-8 and Unicode FAQ for Unix/Linux. možná k něčemu muže být i Unicode in C and C++: What You Can Do About It Today

[tomes.io]

JA se nesnazim nic vynalezt to chran Buddha :)

Jen je tohle pro me absolutne nove, takze se snazim prijit na to, co s tim. Jak vytvorit spravne masky, jak je pouzit. Nikdy predtim jsem to nedelal, to je jako kdyz posadis cloveka ktery sely zivot ridil v superbu do lady nivy...

Rekli nam, ze vse potrebne najdem na wiki, nebo googlu. OK, mam tady tu tabulku:

U-00000000 – U-0000007F: 	0xxxxxxx
U-00000080 – U-000007FF: 	110xxxxx 10xxxxxx
U-00000800 – U-0000FFFF: 	1110xxxx 10xxxxxx 10xxxxxx
U-00010000 – U-001FFFFF: 	11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 – U-03FFFFFF: 	111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 – U-7FFFFFFF: 	1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxx

Nerudovska otazka, co s ni? 0 - 7F to je prvnich 127, tedy ASCII. Otazka zni: uzit nejakou masku?

U-00000080 – U-000007FF:. Tak a ted jak zprvniho bajtu oriznout 110 a z druheho 10?

Kdyz pouziju:

scanf("%X", &x);

x = (x & 0x7FF);

printf("0x%X\n", x);

Tak se zda, ze to dekoduje v pohode.

Ale v pripade 3 bajtoveho (U-00000800 – U-0000FFFF) znaku to uz nedekoduje v pohode:

x = (x & 0xFFFF);

Takze ja proste nevim jak spravne vyuzit tu tabulku z wiki a dalsich odkazu, nevim jak to spravne namaskovat.

Mozna by to slo postupnym rozlozenim cisla na jednotlive bajty a ty pak orezat. Ale nevim, jak se takovy rozklad v C implementuje...

[l4m4]

Tak a ted jak zprvniho bajtu oriznout 110 a z druheho 10?

Musíš oříznout ty správné bity, použít opererátory bitového posunu << a >>, abys je posunul, kam patří ve výsledném bajtu, a zkombinovat výsledek pomocí |.

P.S.: Převod UTF-8 do UNICODE nedává smysl. UTF-8 je representace Unicode, takže co je v UTF-8, to už je v Unicode.

[tomes.io]

Tak jsem to vyresil takto. Snad jsem pokryl vsechny moznosti pro 1-4 bajtove vstupy:

 if (x <= 0x7F){ //testuje zda je znak 1 bajtovy ANSII

        printf("0x%X\n", x);

      }  else if ((x > 0x7F) && (x <= 0xBF)) { //testuje zda je znak jednobajtovy, s hodnotou vyssi nez ANSII

                x = (x & 0x003f);

                printf("0x%X\n", x);

      } else if ((x > 0xBF) && (x <= 0xDFBF)){  //testuje dvoubajtove znaky

               x = ((x & 0x1f00) >> 2) | (x & 0x003f);

               printf("0x%X\n", x);

      } else if ( (x > 0xDFBF) && (x <= 0xEFBFBF)) { //testuje tribajtove znaky

               x = (((x & 0xF0000) >> 4) | ((x & 0x3f00) >>2) | (x & 0x003f));

               printf("0x%X\n", x);

      } else if ((x > 0xEFBFBF) && (x <= 0xF7BFBFBF )){  //testuje ctyrbajtove znaky

                x = ( ((x & 0x7000000) >> 6) | ((x & 0x3f0000) >> 4) | ((x & 0x3f00) >>2) | (x & 0x003f));

               printf("0x%X\n", x);
      }

      return 0;
 }

Jinak UTF-8 do unicode samozreme smysl ma:

http://www.utf8-chartable.de/

Cely priklad je vlastne prevodnik z UTF-8 do UNICODE a z UNICODE do UTF-16.

[l4m4]

Jinak UTF-8 do unicode samozreme smysl ma

Ne, tato věta je výrazem nepochopení vztahu Unicode a UTF-8. UTF-8 můžeš převést leda do nějaké jiné representace Unicode, ale pořád bude nějak representováno.

Tabulka bloku prvních 256 znaků má dokazovat konkrétně co?

[tomes.io]

Mozna je to blbe napsane, nebo spis malo jednoznacne. Oficialni zadani zni takto:

Vašou úlohou je napísať program, ktorý číta hexadecimálne kódy znakov UTF-8 zo štandardného vstupu. Jednotlivé kódy dekóduje najprv do hodnoty znaku v Unicode tabuľke, následne znak opäť zakóduje podľa UTF-16.

"dekoduje do hodnoty v UNICODE"

[l4m4]

Získat z UTF-8 hodnotu znaku (codepoint) v Unicode je samozřejmě smysluplné zadání.

[tomes.io]

Ja to chapu tak, ze tu mame sadu znaku UNICODE, ktera se da ruzne kodovat. UTF-8 i UTF-16 jsou ruzne druhy kodovani teze sady UNICODE. Takze nevim, v cem je problem :) Maximalne, v tom, ze jsem to nepresne napsal,to je vsecko...

[tomes.io]

Hm tak to rozdeleni testovani jednobajtoveho je asi blbost. Staci:

 if (x <= 0xBF){ //testuje zda je znak 1 bajtovy

        printf("0x%X\n", x);