Wyniki wyszukiwania dla "ieee-754"
Właściwości obliczeń z 80-bitową rozszerzoną precyzją, począwszy od argumentów o podwójnej precyzji
Oto dwie implementacje funkcji interpolacji. Argument
Duże liczby błędnie zaokrąglono w JavaScript
Zobacz ten kod:
Dlaczego liczby zmiennoprzecinkowe są drukowane tak inaczej?
Powszechnie wiadomo, że (większość) liczb zmiennoprzecinkowych nie jest przechowywanych dokładnie (gdy używany jest format IEEE-754). Nie należy tego robić:
Lua - pakowanie liczb zmiennoprzecinkowych o pojedynczej precyzji IEEE754
Chcę stworzyć funkcję w czystej Lua, która generujefrakcja (23 bity), anwykładnik potęgowy (8 bitów) i aznak (1 bit) z liczby, więc liczba jest w przybliżeni...
Dlaczego podział przez zero w standardzie IEEE754 daje wartość nieskończoną?
Jestem po prostu ciekawy, dlaczego
Denormalized Numbers - IEEE 754 Floating Point
Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...
Co to jest długi podwójny na x86-64?
Ktoś mi powiedział, że:W x86-64 arytmetyka FP jest wykonywana przy użyciu SSE, a zatem długie podwójne ma 64 bity.Ale w x86-64 ABI mówi, że:
Uzyskaj następny najmniejszy numer podwójny
W ramach testu jednostkowego muszę przetestować pewne warunki brzegowe. Jedna metoda akceptuje