Wyniki wyszukiwania dla "precision"

2 odpowiedź

Konwertuj numer Java na BigDecimal: najlepszy sposób

Szukam najlepszego sposobu konwersji liczby na BigDecimal.Czy to wystarczy?

4 odpowiedź

Pokaż dwie cyfry po przecinku w c ++ [duplikat]

To pytanie ma już tutaj odpowiedź:Drukowanie prawidłowej liczby miejsc dziesiętnych za pomocą cout 11 odpowiedziPodobny temat jest już omawiany na forum. Ale...

1 odpowiedź

Test równości zmiennoprzecinkowej i dodatkowa precyzja: czy ten kod może się nie powieść?

3 odpowiedź

Wysoka precyzja liczb zmiennoprzecinkowych w Haskell?

1 odpowiedź

Czy określenie typu zmiennoprzecinkowego jest wystarczające, aby zagwarantować takie same wyniki?

3 odpowiedź

Utrata precyzji przy dodawaniu podwójnych?

ludzie! Napotkałem mały problem: robię prosty dodatek z trzema podwójnymi wartościami. Wynik ma mniejszą precyzję niż używane wartości.

30 odpowiedzi

Nieoczekiwane wyniki podczas pracy z bardzo dużymi liczbami całkowitymi w językach interpretowanych

Próbuję uzyskać sumę

2 odpowiedź

Czy obliczenie pi Monte Carlo może być wykorzystane do rekordu świata?

Mam tę funkcję losową do obliczenia piStyl Monte Carlo:

2 odpowiedź

Błąd arytmetyczny zmiennoprzecinkowy

3 odpowiedź

Dlaczego dane wyjściowe inv () i pinv () nie są równe w Matlab i Octave?