Dotaz: javascript math.floor chybne počíta

[adrinko]

zdravím všetkých, zistil som, že takáto vec Math.floor( 100.05/(5/100) ) vráti výsledok 2000 namiesto 2001. ale na počudovanie toto Math.floor( 10.05/(5/100) ) vráti správnu hodnotu 201.

Neviete prečo mi to pri vyšších číslach zle počíta?

vďaka vopred

---

---

Odpovědi

[rada]

Počítá to správně podle IEEE. 1/20 není přesně represnetovatelná a je tedy representována nejbližším representovatelným číslem, které je zde o trošku větší. Výslede x/0.05 je pak opět representován nejbližším representovatelným číslem.

[adrinko]

fúha a dá sa to nejako ošetriť, aby to počítalo správne?

[pavlix]

Leda nějakou (pomalou) knihovnou pro výpočty v desítkové soustavě.

[l4m4]

Nebo ještě lépe knihovnou pro práci s racionálními čísly. Za předpokladu, že se používají pouze algebraické oprace, je to sice pomalé, ale výsledek je vždy přesný (což desítkový rozvoj nezaručuje).

[Dejv]

Nestacilo by jen zmenit poradi operaci? Takhle napred deli (zavorka 5/100) a potom zase deli (100.05 / 0.05). Co kdyby to podle pravidel pocitani se zlomky napred vynasobil a teprve potom delil? Dostal by z toho

((100.05 * 100) / 5) = (10005 / 5)

Nevim, jak moc je JS chytry v otazce optimalizaci matematickych postupu, tak mozna je moje rada mimo, ale treba by to mohlo pomoct

Dejv

[Filip Jirsák]

Nestacilo by jen zmenit poradi operaci?

Nestačilo. Čísla s plovoucí řádovou čárkou nereprezentují reálná čísla přesně, toto omezení je součástí návrhu tohoto typu. Takže pokud chcete počítat přesně, je potřeba použít jiný typ. Jiné pořadí operací může pro nějaká čísla dát „správný“ výsledek, ale pro jiná dá zase „špatný“.^*)

*) „Správný“ a „špatný“ myšleno z pohledu výpočtu s reálnými čísly. Ty operace dávají ve skutečnosti správný výsledek podle standardu výpočtu v plovoucí řádové čárce – chyba je na straně programátora, pokud předpokládá, že výsledek bude shodný s výpočtem s reálnými čísly.