☰

» »

[js] seštevanje

[js] seštevanje

korenje3 ::

A je to normalno:

test = (90-0) / 50 / 100;
console.log("A: "+test);
A: 0.018000000000000002


Zakaj je tak izpis?
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W

korenje3 :: 

> test = 90 / 50 / 10;
0.18
> test = 90 / 50 / 1000;
0.0018
> test = 90 / 50 / 10000;
0.00018
> test = 90 / 50 / 100;
0.018000000000000002


Zanimivo.
> 1.7/100
0.017
> 1.6/100
0.016
> 1.9/100
0.019
> 1.8/100
0.018000000000000002
>
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W

Zgodovina sprememb…

  • spremenil: korenje3 ()

garamond ::

Desetiška števila v izvorni kodi so v izračunih interno dvojiška (0 in 1), pri pretvorbi med desetiškim in dvojiškim sistemom pa lahko pride do majhnih napak. Poleg drugih stvari.
Floating point @ Wikipedia

MrStein ::

Ja, normalno. Števila so točna do nekaj decimalk.
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

korenje3 ::

Po moje bi lahko imel javascript zaokroževanje tako kot je to pri perl-u.
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W

Isotropic ::

probaj z round(), ce bi rad mel integerje alpa
http://www.javascriptkit.com/javatutors...

korenje3 ::

Sem dal Math.round(var*10000)/10000
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W

lebdim ::

najboljš z round funkcijo ...

Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Gcc linkanje .so

Oddelek: Programiranje		51570 (1135) golobich
»

Javascript in Regular Expression capture groups

Oddelek: Programiranje		5670 (620) sax15
»

Apache vprašanje - virtual host

Oddelek: Programska oprema		16924 (767) Goldee
»

sql injection [PHP + mysql]

Oddelek: Informacijska varnost		111856 (1581) Lion29
»

[Java]Pri obratu stevila mi prva cifra zgine

Oddelek: Programiranje		121119 (940) Robi182

Več podobnih tem