Wyniki wyszukiwania dla "floating-point"

8 odpowiedzi

Niezgodność zmiennoprzecinkowa między kompilatorami (Visual Studio 2010 i GCC)

2 odpowiedź

Wydaje się, że arytmetyka Numpy longdouble nie jest długotrwała przy konwersji

Grałem w C99quad precision długi podwójny. Rozumiem, że (specyficzne dla platformy) numpy obsługujedługi podwójny i 128bitowe pływaki.Natknąłem się na coś, c...

5 odpowiedzi

Dlaczego liczba w Java jest podzielona przez zero nieskończoności?

Dlaczego poniższy kod w Javie

1 odpowiedź

Wybieranie liczb zmiennoprzecinkowych w postaci dziesiętnej

Mam małą liczbę w tabeli PostgreSQL:

3 odpowiedź

Konwertuj podpisaną zmienną IEEE 754 na reprezentację szesnastkową

2 odpowiedź

Konwertuj float na zaokrąglony odpowiednik dziesiętny

1 odpowiedź

Liczba punktów dwóch wektorów zmiennoprzecinkowych o pojedynczej precyzji daje różne wyniki w jądrze CUDA niż na hoście

1 odpowiedź

Dlaczego AWK odmawia podsumowania pływaków

Stoję przed dość dziwnym problemem

2 odpowiedź

Błąd arytmetyczny zmiennoprzecinkowy

7 odpowiedzi

Czy w HTML5 jest typ wejścia zmiennoprzecinkowego?