Wyniki wyszukiwania dla "floating-point"
Właściwości obliczeń z 80-bitową rozszerzoną precyzją, począwszy od argumentów o podwójnej precyzji
Oto dwie implementacje funkcji interpolacji. Argument
Wykorzystanie zmiennoprzecinkowego w jądrze Linuksa
Czytam „Linux Kernel Development” Roberta Love'a i natknąłem się na następujący fragment:Nie (łatwe) korzystanie z pływającego punktuGdy proces przestrze...
Czy można bezpiecznie reinterpretować_wydanie liczby całkowitej do float?
Uwaga: omyłkowo zapytałem o to
Znajdź pływak tuż poniżej wartości
Powiedzmy, że mam float X. Chcę znaleźć największą liczbę, która jest mniejsza niż X i może być bezstratnie przechowywana w floacie.IIRC standard IEEE mówi, ...
Wydajny sposób zaokrąglania liczb podwójnej precyzji do mniejszej precyzji podanej w liczbie bitów
W C # chcę zaokrąglić podwajając do niższej precyzji, dzięki czemu mogę przechowywać je w segmentach o różnej wielkości w tablicy asocjacyjnej. W przeciwieńs...
Lua - pakowanie liczb zmiennoprzecinkowych o pojedynczej precyzji IEEE754
Chcę stworzyć funkcję w czystej Lua, która generujefrakcja (23 bity), anwykładnik potęgowy (8 bitów) i aznak (1 bit) z liczby, więc liczba jest w przybliżeni...