Pitanja označena s "s pomičnim zarezom"

Brojevi s pomičnim zarezom su aproksimacije stvarnih brojeva koji mogu predstavljati veće raspone od cijelih brojeva, ali koriste istu količinu memorije na štetu manje preciznosti. Ako je vaše pitanje o malim aritmetičkim pogreškama (na primjer, zašto je 0.2 + 0.1 jednako 0.300000001?) Ili pogreške u konverzijama decimalnog koda, prije objavljivanja pročitajte donju stranicu "informacije".
37
odgovor

Je li matematika plutala dolje?

Razmotrite sljedeći kod: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Zašto se javljaju ove netočnosti?
set 26 veljača '09 u 0:39
12
odgovor

Zašto GCC ne optimizira * a * a * a * a * a to (a * a * a) * (a * a * a)?

Radim neku numeričku optimizaciju u znanstvenoj primjeni. Primijetio sam da GCC optimizira poziv na pow (a, 2), kompajlira ga u * a, ali poziv na pow (a, 6) nije optimiziran i zapravo će pozvati funkciju biblioteke pow, što značajno usporava proizvodnju ...
postavljen je 21. lipnja 2011. u 21:49
26
odgovor

Kako raščlaniti niz s pomičnim zarezom ili int u Pythonu?

U Pythonu, kako mogu analizirati numerički niz, kao što je "545.2222" u odgovarajuću vrijednost s pomičnim zarezom, 545.2222? Ili raščlaniti niz "31" u cijeli broj 31? Ja samo želim znati kako rastaviti flor str na plutanje, i (odvojeno) u int str to ...
19. prosinca '08 u 4:52
18
odgovor

Razlika između decimalnog, plutajućeg i dvostrukog u .NET?

Koja je razlika između decimalnog, float i double u .NET? Kada će netko koristiti jedan od njih?
set 6. ožujka u 14:31
5
odgovor

Zašto mijenja 0.1f do 0 usporiti performanse za 10x?

Zašto je ovaj kod bit, const float x [16] = {1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z [16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.7 ...
postavljen 16. veljače '12 u 18:58
34
odgovor

Kako provjeriti je li niz broj (float)?

Koji je najbolji način testiranja može li se niz znakova predstaviti kao broj u Pythonu? Sada imam funkciju: def is_number (s): try: float (s) vrati True osim ValueError: return False Koji, ne samo ...
postavljeno 09.12 '08 u 23:03
22
odgovor

Limit pluta na dvije decimalne točke

Želim krug do 13.95. >>> a 13.949999999999999 >>> kolo (a, 2) 13.949999999999999 Funkcija kruga ne radi kako sam očekivao.
postavljen 18. siječnja '09 u 21:16
16
odgovor

Zašto ne koristite Double ili Float za predstavljanje valute?

Uvijek su mi govorili da ne predstavljam novac s dvostrukim ili plutajućim tipovima, i ovaj put vam postavljam pitanje: zašto? Siguran sam da postoji vrlo dobar razlog, ja jednostavno ne znam što je to.
postavljen 16. rujna '10 u 22:23
14
odgovor

Kako napraviti podjelu biti s pomičnim zarezom? Drži li odjel zaokruživanje na 0?

Imam dva cjelobrojna vrijednosti a i b, ali trebam njihov omjer u pomičnim zarezima. Znam da <b i želim izračunati a / b, pa ako koristim cjelobrojnu podjelu, uvijek dobijem 0 s ostatkom. Kako mogu napraviti c broj s brojem ...
set 12 aug. '09 u 21:25
14
odgovor

Pretvoriti decimalni u dvostruko?

Želim koristiti stazu za promjenu neprozirnosti oblika. Ovo je moj kod: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Kada izradim aplikaciju, ona daje sljedeću pogrešku: implicitno ne može pretvoriti vrstu 'decimalne' u 'učiniti ...
set 01 aug. '08 u 0:42
34
odgovor

Kako koristiti vrijednost stupnja decimalnog raspona ()?

Postoji li način da se napravi korak između 0 i 1 za 0,1? Mislio sam da bih mogao to učiniti kao što je ovaj, ali to nije uspjelo: za i u rasponu (0, 1, 0.1): print i Umjesto toga, kaže da korak argument ne može biti nula, što nisam očekivao.
set Jan 25 '09 u 13:20
26
odgovor

Broj formata, koji bi uvijek trebao biti 2 decimalna mjesta

Želio bih formatirati svoje brojeve tako da uvijek pokazuju 2 decimalna mjesta, zaokružujući gdje je to moguće. Primjeri: prikaz broja ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Koristio sam ovo: parseFloat (num) .toF ...
Postavite 26. svibnja 2011. u 8:22
7
odgovor

Postoji li vrsta unosa u HTML5?

Prema html5.org, atribut vrijednosti "tip" tipa "broj", ako je naveden i nije prazan, mora imati vrijednost koja je važeći broj s pomičnim zarezom. "Međutim, to je jednostavno (u najnovijoj verziji Chromea, u svakom slučaju , uprava "updo ...
postavljeno 25. rujna. '13 u 20:51
5
odgovor

Zašto Math.round (0.49999999999999994) vraća 1?

U sljedećem programu vidjet ćete da je svaka vrijednost nešto manja od 0,5 zaokružena dolje, osim za 0,5. za (int i = 10; i> = 0; i--) {dugo l = Double.doubleToLongBits (i + 0.5); dvostruki x; do {x = Double.longBitsToDoubl ...
postavljen je 28. ožujka u 12:30
38
odgovor

Kako obraditi točnost brojeva s pomičnim zarezom u javascriptu?

Imam sljedeću skriptu dummy test: function test () {var x = 0.1 * 0.2; document.write (x); } test (); To će ispisati rezultat od 0.020000000000000004, dok bi trebao jednostavno ispisati 0.02 (ako koristite kalkulator). Na ...
postavljeno 22. rujna '09 u 10:34