Wyniki wyszukiwania dla "floating-point"
Precyzja utracona w wartości float za pomocą Java
Podany poniżej kodu testowego i jego wyjścia. Gdy otrzymuję wartość zmiennoprzecinkową z wartości liczbowej, precyzja jest tracona. Czy ktoś może mi powiedzi...
Dziwny błąd dodawania Pythona [duplikat]
Możliwy duplikat:python - problemy z miejscem dziesiętnym z pływakamiDziwaczność równości w PythonieW poniższym kodzie mam zmienną
Jak pływak jest reprezentowany szesnastkowo?
Przesyłam dane do urządzenia podrzędnego z iPhone'a, gdzie transmisja wymaga 16-bitowej wartości danych. Teraz mam wartość zmiennoprzecinkową, którą musz...
Jak zaokrąglić miejsca dziesiętne w C ++?
Potrzebuję pomocy zaokrąglając wartość zmiennoprzecinkową do jednego miejsca po przecinku.wiem
Które wartości nie mogą być poprawnie reprezentowane przez podwójne
Typ danych Double nie może poprawnie reprezentować pewnych wartości bazy 10. Wynika to z tego, jak liczby zmiennoprzecinkowe reprezentują liczby rzeczywiste....
Jaka jest najmniejsza niezerowa dodatnia liczba zmiennoprzecinkowa w Perlu?
Mam program w Perlu, który działa z prawdopodobieństwami, które czasami mogą być bardzo małe. Z powodu błędu zaokrąglania czasami jedno z prawdopodobieństw w...
Dlaczego dodawanie 0 do końca literału float zmienia sposób jego zaokrąglania (możliwy błąd GCC)?
Odkryłem na moim x86 VM (32-bitowym) następujący program: