Wyniki wyszukiwania dla "floating-point"

1 odpowiedź

Dlaczego AWK odmawia podsumowania pływaków

Stoję przed dość dziwnym problemem

1 odpowiedź

Liczba punktów dwóch wektorów zmiennoprzecinkowych o pojedynczej precyzji daje różne wyniki w jądrze CUDA niż na hoście

3 odpowiedź

Konwertuj podpisaną zmienną IEEE 754 na reprezentację szesnastkową

2 odpowiedź

Konwertuj float na zaokrąglony odpowiednik dziesiętny

1 odpowiedź

Wybieranie liczb zmiennoprzecinkowych w postaci dziesiętnej

Mam małą liczbę w tabeli PostgreSQL:

5 odpowiedzi

Dlaczego liczba w Java jest podzielona przez zero nieskończoności?

Dlaczego poniższy kod w Javie

2 odpowiedź

Wydaje się, że arytmetyka Numpy longdouble nie jest długotrwała przy konwersji

Grałem w C99quad precision długi podwójny. Rozumiem, że (specyficzne dla platformy) numpy obsługujedługi podwójny i 128bitowe pływaki.Natknąłem się na coś, c...

8 odpowiedzi

Niezgodność zmiennoprzecinkowa między kompilatorami (Visual Studio 2010 i GCC)

3 odpowiedź

pow () rzut na liczbę całkowitą, nieoczekiwany wynik

Mam problemy z użyciem liczby całkowitej dla

4 odpowiedź

Jeśli podwójny typ obsługuje liczby 4,35 i 435, dlaczego wartość 4,35 * 100 wynosi 434.99999999999994? [duplikować

To pytanie ma już odpowiedź tutaj: Czy matematyka zmiennoprzecinkowa jest zepsuta? [/questions/588004/is-floating-point-math-broken] 28 odpowiedziRounding osobliwość - co wyróżnia ...