Wyniki wyszukiwania dla "floating-point"

2 odpowiedź

Konwersja z double na float w Javie

6 odpowiedzi

Co oznaczają te trzy specjalne wartości zmiennoprzecinkowe: nieskończoność dodatnia, nieskończoność ujemna, NaN?

Jak możemy ich użyć w naszych kodach i co spowoduje NaN (nie liczbę)?

7 odpowiedzi

Float vs Double

Czy kiedykolwiek ma miejsce porównanie (

6 odpowiedzi

Zakresy zmiennoprzecinkowych typów danych w C?

Czytam książkę C, mówiąc o zakresach zmiennoprzecinkowych, autor podał tabelę:

1 odpowiedź

Rozszerzona precyzyjna biblioteka zmiennoprzecinkowa C / C ++

1 odpowiedź

maks. pływak reprezentowany w IEEE 754

1 odpowiedź

Standard IEEE-754 w procesorze graficznym NVIDIA (sm_13)

Jeśli wykonam operację float (pojedyncza precyzja) na hoście i urządzeniu (łuk GPU sm_13), to czy wartości będą inne?

3 odpowiedź

Jak mogę ręcznie ustawić wartość bitową pływaka równą NaN?

Próbuję uruchomić kilka testów z konwersjami i rzutami elementów pływających na inne typy i chcę ustawić zmienną zmiennoprzecinkową na różne wartości nan.„bi...

3 odpowiedź

Dziwne zachowanie JavaScript: dodawanie zmiennoprzecinkowe podające błędną odpowiedź [duplikat]

Możliwy duplikat:Czy matematyka JavaScript jest zepsuta?Wydaje się to naprawdę głupie, ale po uruchomieniu wyświetli się7.300000000000001 zamiast 7.3

9 odpowiedzi

Czy dobrym pomysłem jest użycie zmiennoprzecinkowego NaN IEEE754 dla wartości, które nie są ustawione?

Czy dobrym pomysłem jest użycie zmiennoprzecinkowego NaN (nie-liczby) IEEE754 dla wartości, które są niezdefiniowane z powodów innych niż matematyczne?W nasz...