Wyniki wyszukiwania dla "floating-accuracy"

5 odpowiedzi

Jak ustawić precyzję zmiennoprzecinkową w Perlu?

5 odpowiedzi

Dealing with float precision in Javascript [duplicate]

To pytanie ma już odpowiedź tutaj: Jak radzić sobie z precyzją liczb zmiennoprzecinkowych w JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 odpowiedzi Mam dużą liczbę wartości liczbowychy w ...

5 odpowiedzi

Dostępna jest dowolna precyzja zmiennoprzecinkowa Pythona?

Dla zabawy i ponieważ było to naprawdę łatwe, napisałem krótki program do wygenerowaniaLiczby szczepienia, ale z powodu problemów z precyzją zmiennoprzecinko...

2 odpowiedź

Znalezienie najbliższej wartości zmiennoprzecinkowej mniejszej niż określona wartość całkowita w C ++?

6 odpowiedzi

Duże liczby błędnie zaokrąglono w JavaScript

Zobacz ten kod:

4 odpowiedź

Python float-str - float weirdness

4 odpowiedź

Wykładnicze liczby całkowite w OCaml

Czy istnieje funkcja potęgowania liczb całkowitych w OCaml? ** jest tylko dla pływaków. Chociaż wydaje się, że jest to w większości dokładne, czy nie ma możl...

7 odpowiedzi

Dlaczego ghci mówi, że 1.1 + 1.1 + 1.1> 3.3 jest prawdą?

3 odpowiedź

Dlaczego GDB ocenia arytmetykę zmiennoprzecinkową inaczej niż w C ++?

Zetknąłem się z czymś nieco mylącym, próbując poradzić sobie z arytmetycznym problemem zmiennoprzecinkowym.Po pierwsze, kod. W tym przykładzie wydestylowałem...

7 odpowiedzi

drukowanie integralnej części liczby zmiennoprzecinkowej