Wyniki wyszukiwania dla "floating-point"

2 odpowiedź

Właściwości obliczeń z 80-bitową rozszerzoną precyzją, począwszy od argumentów o podwójnej precyzji

Oto dwie implementacje funkcji interpolacji. Argument

2 odpowiedź

Jak obliczyć dowolną moc / pierwiastek?

2 odpowiedź

Wykorzystanie zmiennoprzecinkowego w jądrze Linuksa

Czytam „Linux Kernel Development” Roberta Love'a i natknąłem się na następujący fragment:Nie (łatwe) korzystanie z pływającego punktuGdy proces przestrze...

2 odpowiedź

Czy można bezpiecznie reinterpretować_wydanie liczby całkowitej do float?

Uwaga: omyłkowo zapytałem o to

2 odpowiedź

Czy mnożenie całkowite jest realizowane za pomocą podwójnej precyzji zmiennoprzecinkowej dokładnie do 2 ^ 53?

2 odpowiedź

Uzyskiwanie błędnej odpowiedzi w podwójnej arytmetyce w Javie [duplikat]

2 odpowiedź

Znajdź pływak tuż poniżej wartości

Powiedzmy, że mam float X. Chcę znaleźć największą liczbę, która jest mniejsza niż X i może być bezstratnie przechowywana w floacie.IIRC standard IEEE mówi, ...

2 odpowiedź

Wydajny sposób zaokrąglania liczb podwójnej precyzji do mniejszej precyzji podanej w liczbie bitów

W C # chcę zaokrąglić podwajając do niższej precyzji, dzięki czemu mogę przechowywać je w segmentach o różnej wielkości w tablicy asocjacyjnej. W przeciwieńs...

2 odpowiedź

Nieprawidłowe zaokrąglanie pływaka podczas używania ToString („F1”)

2 odpowiedź

Lua - pakowanie liczb zmiennoprzecinkowych o pojedynczej precyzji IEEE754

Chcę stworzyć funkcję w czystej Lua, która generujefrakcja (23 bity), anwykładnik potęgowy (8 bitów) i aznak (1 bit) z liczby, więc liczba jest w przybliżeni...