Wyniki wyszukiwania dla "floating-point-precision"
Uzyskaj następny najmniejszy numer podwójny
W ramach testu jednostkowego muszę przetestować pewne warunki brzegowe. Jedna metoda akceptuje
Python: Znajdź indeks minimalnej pozycji na liście floatów [duplikat]
To pytanie ma już tutaj odpowiedź:Pobieranie indeksu zwracanego elementu max lub min za pomocą max () / min () na liście 21 odpowiedziJak mogę znaleźć indeks...
Jakiekolwiek ryzyko użycia zmiennych float jako liczników pętli i ich ułamkowego przyrostu / dekrementacji dla warunków „==”?
Czy możemy bezpiecznie używać floatów jako liczników pętli i zwiększać / zmniejszać je o wartości ułamkowe przy każdej iteracji, jak w pozornie wolnym od ryz...
Błąd przy użyciu (int) i (podwójnie) razem, aby odciąć dziesiętne
Kiedy używam (int) z (double) czasami nie działa poprawnie.Przykład kodu PHP:Muszę opuścić 2 dziesiętne i usunąć inne ...Wiem, że numer_formatu (); funkcja A...
Dlaczego używanie modulo w wartościach innych niż całkowite powoduje utratę precyzji zmiennoprzecinkowej? [duplikować]
To pytanie ma już tutaj odpowiedź:Dlaczego widzę podwójną zmienną zainicjowaną na jakąś wartość, taką jak 21.4 jako 21.399999618530273? 14 odpowiedziZastanaw...
następny wyższy / niższy numer podwójnej precyzji IEEE
Robię obliczenia naukowe o wysokiej precyzji. Szukając najlepszej reprezentacji różnych efektów, wymyślam powody, by chcieć uzyskać kolejną wyższą (lub niższ...
Strona 1 z 2