Wyniki wyszukiwania dla "ieee-754"

5 odpowiedzi

Wyjaśnienie Laymana, dlaczego JavaScript ma dziwną zmienną matematykę - standard IEEE 754 [duplikat]

To pytanie ma już odpowiedź tutaj: Czy matematyka zmiennoprzecinkowa jest zepsuta? [/questions/588004/is-floating-point-math-broken] 28 odpowiedzi Nigdy nie rozumiem dokładnie, co się dzieje z JavaScript, kiedy wykonuję operacje matematyczne na ...

6 odpowiedzi

Zakresy zmiennoprzecinkowych typów danych w C?

Czytam książkę C, mówiąc o zakresach zmiennoprzecinkowych, autor podał tabelę:

6 odpowiedzi

Jak zapisać liczbę zmiennoprzecinkową w 2 bajtach?

6 odpowiedzi

następny wyższy / niższy numer podwójnej precyzji IEEE

Robię obliczenia naukowe o wysokiej precyzji. Szukając najlepszej reprezentacji różnych efektów, wymyślam powody, by chcieć uzyskać kolejną wyższą (lub niższ...

6 odpowiedzi

Duże liczby błędnie zaokrąglono w JavaScript

Zobacz ten kod:

6 odpowiedzi

Dlaczego NaN nie jest równe NaN? [duplikować

To pytanie ma już odpowiedź tutaj: Jakie jest uzasadnienie dla wszystkich porównań zwracających wartość false dla wartości NaN IEEE754? [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 13 ...

7 odpowiedzi

największa liczba całkowita, która może być przechowywana w podwójnej

13 odpowiedzi

What is the rationale for all comparisons returning false for IEEE754 NaN values?

Dlaczego porównania wartości NaN zachowują się inaczej niż wszystkie inne wartości? Oznacza to, że wszystkie porównania z operatorami ==, <=,> =, <,...