Wyniki wyszukiwania dla "ieee-754"

1 odpowiedź

Denormalized Numbers - IEEE 754 Floating Point

Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...

3 odpowiedź

Precyzja podwójnego miejsca po przecinku

W przerwie obiadowej zaczęliśmy debatować o precyzji

1 odpowiedź

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

1 odpowiedź

Zaokrąglanie dziwactwa w JavaScript lub IEEE-754?

W jednym z moich testów jednostkowych natknąłem się na ciekawy problem, w którym otrzymuję nieoczekiwane wyniki zaokrąglania w JavaScript:

3 odpowiedź

Dlaczego IEEE 754 rezerwuje tak wiele wartości NaN?

3 odpowiedź

Dlaczego notacja wykładnicza z wartościami dziesiętnymi nie działa? [Zamknięte]

Umownie

3 odpowiedź

Konwersja Int na Float lub Float na Int przy użyciu operacji Bitwise (zmiennoprzecinkowy program)

3 odpowiedź

Co to jest długi podwójny na x86-64?

Ktoś mi powiedział, że:W x86-64 arytmetyka FP jest wykonywana przy użyciu SSE, a zatem długie podwójne ma 64 bity.Ale w x86-64 ABI mówi, że:

4 odpowiedź

Dlaczego podział przez zero w standardzie IEEE754 daje wartość nieskończoną?

Jestem po prostu ciekawy, dlaczego

1 odpowiedź

podwójna podwójna implementacja odporna na tryb zaokrąglania FPU