Wyniki wyszukiwania dla "floating-point-precision"

1 odpowiedź

Dlaczego używanie modulo w wartościach innych niż całkowite powoduje utratę precyzji zmiennoprzecinkowej? [duplikować]

To pytanie ma już tutaj odpowiedź:Dlaczego widzę podwójną zmienną zainicjowaną na jakąś wartość, taką jak 21.4 jako 21.399999618530273? 14 odpowiedziZastanaw...

3 odpowiedź

Java - maksymalna utrata precyzji w jednym podwójnym dodawaniu / odejmowaniu

4 odpowiedź

Python: Znajdź indeks minimalnej pozycji na liście floatów [duplikat]

To pytanie ma już tutaj odpowiedź:Pobieranie indeksu zwracanego elementu max lub min za pomocą max () / min () na liście 21 odpowiedziJak mogę znaleźć indeks...

2 odpowiedź

Jak nie pokazywać liczb w formie naukowej?

1 odpowiedź

epsilon dla różnych wartości pływaków

6 odpowiedzi

następny wyższy / niższy numer podwójnej precyzji IEEE

Robię obliczenia naukowe o wysokiej precyzji. Szukając najlepszej reprezentacji różnych efektów, wymyślam powody, by chcieć uzyskać kolejną wyższą (lub niższ...