Wyniki wyszukiwania dla "floating-point-precision"

2 odpowiedź

Jak nie pokazywać liczb w formie naukowej?

2 odpowiedź

Uzyskaj następny najmniejszy numer podwójny

W ramach testu jednostkowego muszę przetestować pewne warunki brzegowe. Jedna metoda akceptuje

4 odpowiedź

Python: Znajdź indeks minimalnej pozycji na liście floatów [duplikat]

To pytanie ma już tutaj odpowiedź:Pobieranie indeksu zwracanego elementu max lub min za pomocą max () / min () na liście 21 odpowiedziJak mogę znaleźć indeks...

4 odpowiedź

Jakiekolwiek ryzyko użycia zmiennych float jako liczników pętli i ich ułamkowego przyrostu / dekrementacji dla warunków „==”?

Czy możemy bezpiecznie używać floatów jako liczników pętli i zwiększać / zmniejszać je o wartości ułamkowe przy każdej iteracji, jak w pozornie wolnym od ryz...

7 odpowiedzi

Specyfikator szerokości Printf do utrzymania precyzji wartości zmiennoprzecinkowej

Czy jest

3 odpowiedź

Precyzja funkcji C ++ sqrt dla pełnych kwadratów

Pozwolić,

5 odpowiedzi

Błąd przy użyciu (int) i (podwójnie) razem, aby odciąć dziesiętne

Kiedy używam (int) z (double) czasami nie działa poprawnie.Przykład kodu PHP:Muszę opuścić 2 dziesiętne i usunąć inne ...Wiem, że numer_formatu (); funkcja A...

1 odpowiedź

Dlaczego używanie modulo w wartościach innych niż całkowite powoduje utratę precyzji zmiennoprzecinkowej? [duplikować]

To pytanie ma już tutaj odpowiedź:Dlaczego widzę podwójną zmienną zainicjowaną na jakąś wartość, taką jak 21.4 jako 21.399999618530273? 14 odpowiedziZastanaw...

6 odpowiedzi

C ++ Jak uniknąć błędu arytmetycznego zmiennoprzecinkowego

6 odpowiedzi

następny wyższy / niższy numer podwójnej precyzji IEEE

Robię obliczenia naukowe o wysokiej precyzji. Szukając najlepszej reprezentacji różnych efektów, wymyślam powody, by chcieć uzyskać kolejną wyższą (lub niższ...