Wyniki wyszukiwania dla "ieee-754"

1 odpowiedź

maks. pływak reprezentowany w IEEE 754

1 odpowiedź

Standard IEEE-754 w procesorze graficznym NVIDIA (sm_13)

Jeśli wykonam operację float (pojedyncza precyzja) na hoście i urządzeniu (łuk GPU sm_13), to czy wartości będą inne?

1 odpowiedź

Reprezentatywny wynik floor () i ceil ()

1 odpowiedź

Zaokrąglanie dziwactwa w JavaScript lub IEEE-754?

W jednym z moich testów jednostkowych natknąłem się na ciekawy problem, w którym otrzymuję nieoczekiwane wyniki zaokrąglania w JavaScript:

1 odpowiedź

Denormalized Numbers - IEEE 754 Floating Point

Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...

1 odpowiedź

podwójna podwójna implementacja odporna na tryb zaokrąglania FPU

1 odpowiedź

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

1 odpowiedź

Jaka jest różnica między cichym NaN a sygnalizacyjnym NaN?

Przeczytałem o zmiennoprzecinkowym i rozumiem, że NaN może wynikać z operacji. ale nie rozumiem dokładnie, jakie są te pojęcia. Jaka jest różnica?Który można...

1 odpowiedź

Dlaczego zmiennoprzecinkowy IEEE-754 nie jest wymienny między platformami?

2 odpowiedź

Wszelkie implementacje Java zgodne z IEEE754 (r)?

Czy są dostępne w pełni zgodne z Java IEEE754r implementacje Java, które oferują obsługę wszystkich funkcji, które Java pominęła (lub raczej języków wysokieg...