Wyniki wyszukiwania dla "ieee-754"
Denormalized Numbers - IEEE 754 Floating Point
Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...
Precyzja podwójnego miejsca po przecinku
W przerwie obiadowej zaczęliśmy debatować o precyzji
Zaokrąglanie dziwactwa w JavaScript lub IEEE-754?
W jednym z moich testów jednostkowych natknąłem się na ciekawy problem, w którym otrzymuję nieoczekiwane wyniki zaokrąglania w JavaScript:
Co to jest długi podwójny na x86-64?
Ktoś mi powiedział, że:W x86-64 arytmetyka FP jest wykonywana przy użyciu SSE, a zatem długie podwójne ma 64 bity.Ale w x86-64 ABI mówi, że:
Dlaczego podział przez zero w standardzie IEEE754 daje wartość nieskończoną?
Jestem po prostu ciekawy, dlaczego