Wyniki wyszukiwania dla "ieee-754"

2 odpowiedź

Właściwości obliczeń z 80-bitową rozszerzoną precyzją, począwszy od argumentów o podwójnej precyzji

Oto dwie implementacje funkcji interpolacji. Argument

6 odpowiedzi

Duże liczby błędnie zaokrąglono w JavaScript

Zobacz ten kod:

3 odpowiedź

Powtórne porównanie punktów zmiennoprzecinkowych

5 odpowiedzi

Dlaczego liczby zmiennoprzecinkowe są drukowane tak inaczej?

Powszechnie wiadomo, że (większość) liczb zmiennoprzecinkowych nie jest przechowywanych dokładnie (gdy używany jest format IEEE-754). Nie należy tego robić:

2 odpowiedź

Lua - pakowanie liczb zmiennoprzecinkowych o pojedynczej precyzji IEEE754

Chcę stworzyć funkcję w czystej Lua, która generujefrakcja (23 bity), anwykładnik potęgowy (8 bitów) i aznak (1 bit) z liczby, więc liczba jest w przybliżeni...

4 odpowiedź

Dlaczego podział przez zero w standardzie IEEE754 daje wartość nieskończoną?

Jestem po prostu ciekawy, dlaczego

2 odpowiedź

Coercing zmiennoprzecinkowy do deterministycznego w .NET?

1 odpowiedź

Denormalized Numbers - IEEE 754 Floating Point

Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...

3 odpowiedź

Co to jest długi podwójny na x86-64?

Ktoś mi powiedział, że:W x86-64 arytmetyka FP jest wykonywana przy użyciu SSE, a zatem długie podwójne ma 64 bity.Ale w x86-64 ABI mówi, że:

2 odpowiedź

Uzyskaj następny najmniejszy numer podwójny

W ramach testu jednostkowego muszę przetestować pewne warunki brzegowe. Jedna metoda akceptuje