Wyniki wyszukiwania dla "floating-point"

2 odpowiedź

JSON.parse niepoprawnie analizuje / konwertuje duże liczby

Mój problem jest naprawdę prosty, ale nie jestem pewien, czy w JSON.parse istnieje „rodzime” rozwiązanie.Odbieram tostrunowy z API:

4 odpowiedź

tan 45 daje mi 0.9999

6 odpowiedzi

Duże liczby błędnie zaokrąglono w JavaScript

Zobacz ten kod:

4 odpowiedź

Liczba cyfr znaczących dla typu zmiennoprzecinkowego

9 odpowiedzi

Najszybszy sposób na wyzerowanie niskich wartości w tablicy?

Powiedzmy, że mam 100 000 tablic float z 100 elementami każdy. Potrzebuję najwyższej liczby X wartości, ALE tylko wtedy, gdy są większe niż Y. Każdy element ...

2 odpowiedź

Uzyskiwanie błędnej odpowiedzi w podwójnej arytmetyce w Javie [duplikat]

1 odpowiedź

Czy istnieje limit w Javascript na miejsca dziesiętne na dużych platformach?

2 odpowiedź

Wykorzystanie zmiennoprzecinkowego w jądrze Linuksa

Czytam „Linux Kernel Development” Roberta Love'a i natknąłem się na następujący fragment:Nie (łatwe) korzystanie z pływającego punktuGdy proces przestrze...

6 odpowiedzi

Dlaczego NaN nie jest równe NaN? [duplikować

To pytanie ma już odpowiedź tutaj: Jakie jest uzasadnienie dla wszystkich porównań zwracających wartość false dla wartości NaN IEEE754? [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 13 ...

6 odpowiedzi

Zakresy zmiennoprzecinkowych typów danych w C?

Czytam książkę C, mówiąc o zakresach zmiennoprzecinkowych, autor podał tabelę: