Wyniki wyszukiwania dla "floating-point"
Precyzja utracona w wartości float za pomocą Java
Podany poniżej kodu testowego i jego wyjścia. Gdy otrzymuję wartość zmiennoprzecinkową z wartości liczbowej, precyzja jest tracona. Czy ktoś może mi powiedzi...
0.1 float jest większe niż 0.1 podwójne. Spodziewałem się, że będzie fałszywy [duplikat]
To pytanie ma już tutaj odpowiedź:Jeśli operator <działa poprawnie dla typów zmiennoprzecinkowych, dlaczego nie możemy go użyć do testowania równości? 5 o...
metoda intBitsToFloat w Java VS C #?
Dostaję złą liczbę podczas konwersji bitów na float w C #.Użyjmy tego bitu
Wyrażenia regularne pasują do liczby zmiennoprzecinkowej, ale nie do liczby całkowitej
Mam problem z zdefiniowaniem wyrażenia regularnego, które pasuje do liczb zmiennoprzecinkowych, ale NIE identyfikuje liczb całkowitych.Mam następujące wyraże...
Dlaczego skalarny SSE sqrt (x) jest wolniejszy niż rsqrt (x) * x?
Profilowałem część naszej podstawowej matematyki w Intel Core Duo i patrząc na różne podejścia do pierwiastka kwadratowego zauważyłem coś dziwnego: używając ...