Wyniki wyszukiwania dla "floating-point-precision"

Kiedy używam (int) z (double) czasami nie działa poprawnie.Przykład kodu PHP:Muszę opuścić 2 dziesiętne i usunąć inne ...Wiem, że numer_formatu (); funkcja A...

loop-counter floating-point c loops

4 odpowiedź

Jakiekolwiek ryzyko użycia zmiennych float jako liczników pętli i ich ułamkowego przyrostu / dekrementacji dla warunków „==”?

Czy możemy bezpiecznie używać floatów jako liczników pętli i zwiększać / zmniejszać je o wartości ułamkowe przy każdej iteracji, jak w pozornie wolnym od ryz...

double ieee-754

6 odpowiedzi

następny wyższy / niższy numer podwójnej precyzji IEEE

Robię obliczenia naukowe o wysokiej precyzji. Szukając najlepszej reprezentacji różnych efektów, wymyślam powody, by chcieć uzyskać kolejną wyższą (lub niższ...

c quad floating-point long-double

4 odpowiedź

sizeof długi podwójny i precyzyjny nie pasujący?

Rozważ następujący kod C:

php

2 odpowiedź

Jak nie pokazywać liczb w formie naukowej?

java modulo

1 odpowiedź

Dlaczego używanie modulo w wartościach innych niż całkowite powoduje utratę precyzji zmiennoprzecinkowej? [duplikować]

To pytanie ma już tutaj odpowiedź:Dlaczego widzę podwójną zmienną zainicjowaną na jakąś wartość, taką jak 21.4 jako 21.399999618530273? 14 odpowiedziZastanaw...