Wyniki wyszukiwania dla "floating-accuracy"

5 odpowiedzi

Jak ustawić precyzję zmiennoprzecinkową w Perlu?

5 odpowiedzi

Dostępna jest dowolna precyzja zmiennoprzecinkowa Pythona?

Dla zabawy i ponieważ było to naprawdę łatwe, napisałem krótki program do wygenerowaniaLiczby szczepienia, ale z powodu problemów z precyzją zmiennoprzecinko...

4 odpowiedź

Dlaczego nie uzyskuję zera, gdy odejmuję tę samą liczbę zmiennoprzecinkową od siebie w Perlu? [duplikować]

5 odpowiedzi

Dealing with float precision in Javascript [duplicate]

To pytanie ma już odpowiedź tutaj: Jak radzić sobie z precyzją liczb zmiennoprzecinkowych w JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 odpowiedzi Mam dużą liczbę wartości liczbowychy w ...

4 odpowiedź

Wykładnicze liczby całkowite w OCaml

Czy istnieje funkcja potęgowania liczb całkowitych w OCaml? ** jest tylko dla pływaków. Chociaż wydaje się, że jest to w większości dokładne, czy nie ma możl...

6 odpowiedzi

Duże liczby błędnie zaokrąglono w JavaScript

Zobacz ten kod:

4 odpowiedź

Dokładność zmiennoprzecinkowa C ++ w pętlach while

Próbuję policzyć sumę nominałów dolara i monety w całkowitej sumie, używając serii pętli while. Kiedy jednak schodzę do monet, wychodzę za grosz. Kiedy wchod...

2 odpowiedź

Znalezienie najbliższej wartości zmiennoprzecinkowej mniejszej niż określona wartość całkowita w C ++?

4 odpowiedź

Python float-str - float weirdness

1 odpowiedź

Wynik rzucania podwójnego na int jest błędny