Wyniki wyszukiwania dla "floating-point"

1 odpowiedź

Wybieranie liczb zmiennoprzecinkowych w postaci dziesiętnej

Mam małą liczbę w tabeli PostgreSQL:

1 odpowiedź

Liczba punktów dwóch wektorów zmiennoprzecinkowych o pojedynczej precyzji daje różne wyniki w jądrze CUDA niż na hoście

1 odpowiedź

Dlaczego AWK odmawia podsumowania pływaków

Stoję przed dość dziwnym problemem

1 odpowiedź

Jak uniknąć błędów zmiennoprzecinkowych?

1 odpowiedź

Czy istnieje limit w Javascript na miejsca dziesiętne na dużych platformach?

1 odpowiedź

Jak 4 bajty mogą przechowywać tak dużą wartość 3,4e38

1 odpowiedź

Remainder on Float in Python [duplicate]

To pytanie ma już odpowiedź tutaj: Python modulo on floats [/questions/14763722/python-modulo-on-floats] 3 odpowiedzi Chcę tylko pokazać wyniki operacji w Pythonie. Nie mogę wytłumaczyć >>> 1.0%1.0 0.0 (OK) >>> 1.0%0.1 0.09999.... >>> ...

2 odpowiedź

Konwersja z double na float w Javie

2 odpowiedź

JSON.parse niepoprawnie analizuje / konwertuje duże liczby

Mój problem jest naprawdę prosty, ale nie jestem pewien, czy w JSON.parse istnieje „rodzime” rozwiązanie.Odbieram tostrunowy z API:

2 odpowiedź

Jak przekonwertować ciąg heksadecymalny na float w Javie?

Jak przekonwertować ciąg szesnastkowy na zmiennoprzecinkowy pojedynczy punkt precyzyjny w Javie?Na przykład, jak wdrożyć:float f = HexStringToFloat („BF80000...