Wyniki wyszukiwania dla "precision"

1 odpowiedź

Algorytm Point in Polygon dający czasami błędne wyniki [zamknięte]

Widziałem na StackOverflow algorytm raytracing „point in polygon”, który zaimplementowałem w moim kodzie PHP. W większości przypadków działa dobrze, ale w ni...

3 odpowiedź

Utrata precyzji przy dodawaniu podwójnych?

ludzie! Napotkałem mały problem: robię prosty dodatek z trzema podwójnymi wartościami. Wynik ma mniejszą precyzję niż używane wartości.

10 odpowiedzi

Uzyskaj DateTime.Now z dokładnością do milisekund

2 odpowiedź

Konwertuj numer Java na BigDecimal: najlepszy sposób

Szukam najlepszego sposobu konwersji liczby na BigDecimal.Czy to wystarczy?

4 odpowiedź

Pokaż dwie cyfry po przecinku w c ++ [duplikat]

To pytanie ma już tutaj odpowiedź:Drukowanie prawidłowej liczby miejsc dziesiętnych za pomocą cout 11 odpowiedziPodobny temat jest już omawiany na forum. Ale...

1 odpowiedź

Test równości zmiennoprzecinkowej i dodatkowa precyzja: czy ten kod może się nie powieść?

30 odpowiedzi

Nieoczekiwane wyniki podczas pracy z bardzo dużymi liczbami całkowitymi w językach interpretowanych

Próbuję uzyskać sumę

2 odpowiedź

Czy obliczenie pi Monte Carlo może być wykorzystane do rekordu świata?

Mam tę funkcję losową do obliczenia piStyl Monte Carlo:

2 odpowiedź

Błąd arytmetyczny zmiennoprzecinkowy

3 odpowiedź

Dlaczego dane wyjściowe inv () i pinv () nie są równe w Matlab i Octave?