Wyniki wyszukiwania dla "floating-point"

2 odpowiedź

Czy mnożenie całkowite jest realizowane za pomocą podwójnej precyzji zmiennoprzecinkowej dokładnie do 2 ^ 53?

5 odpowiedzi

Precyzja utracona w wartości float za pomocą Java

Podany poniżej kodu testowego i jego wyjścia. Gdy otrzymuję wartość zmiennoprzecinkową z wartości liczbowej, precyzja jest tracona. Czy ktoś może mi powiedzi...

7 odpowiedzi

0.1 float jest większe niż 0.1 podwójne. Spodziewałem się, że będzie fałszywy [duplikat]

To pytanie ma już tutaj odpowiedź:Jeśli operator <działa poprawnie dla typów zmiennoprzecinkowych, dlaczego nie możemy go użyć do testowania równości? 5 o...

8 odpowiedzi

Niezgodność zmiennoprzecinkowa między kompilatorami (Visual Studio 2010 i GCC)

3 odpowiedź

Wdrażanie podziału jednoprecyzyjnego jako mnożenie podwójnej precyzji

3 odpowiedź

metoda intBitsToFloat w Java VS C #?

Dostaję złą liczbę podczas konwersji bitów na float w C #.Użyjmy tego bitu

2 odpowiedź

Wyrażenia regularne pasują do liczby zmiennoprzecinkowej, ale nie do liczby całkowitej

Mam problem z zdefiniowaniem wyrażenia regularnego, które pasuje do liczb zmiennoprzecinkowych, ale NIE identyfikuje liczb całkowitych.Mam następujące wyraże...

3 odpowiedź

Precyzyjna precyzja tekstu zmiennoprzecinkowego Python / numpy

5 odpowiedzi

Dlaczego skalarny SSE sqrt (x) jest wolniejszy niż rsqrt (x) * x?

Profilowałem część naszej podstawowej matematyki w Intel Core Duo i patrząc na różne podejścia do pierwiastka kwadratowego zauważyłem coś dziwnego: używając ...

4 odpowiedź

Sortuj tablicę wielowymiarową według wartości dziesiętnych