Wyniki wyszukiwania dla "floating-point"

4 odpowiedź

porównanie podwójne i float [duplikat]

3 odpowiedź

Dziwne zachowanie JavaScript: dodawanie zmiennoprzecinkowe podające błędną odpowiedź [duplikat]

Możliwy duplikat:Czy matematyka JavaScript jest zepsuta?Wydaje się to naprawdę głupie, ale po uruchomieniu wyświetli się7.300000000000001 zamiast 7.3

2 odpowiedź

Właściwości obliczeń z 80-bitową rozszerzoną precyzją, począwszy od argumentów o podwójnej precyzji

Oto dwie implementacje funkcji interpolacji. Argument

4 odpowiedź

Jak dotrzeć do macierzy jednostek z numpy.dot (A, A_inv)

1 odpowiedź

Liczba punktów dwóch wektorów zmiennoprzecinkowych o pojedynczej precyzji daje różne wyniki w jądrze CUDA niż na hoście

0 odpowiedzi

Dlaczego Microsoft chciałby NIE naprawiać błędnych implementacji Equals i GetHashCode za pomocą NaN? [Zamknięte]

W systemie .NET Framework implementacja (

2 odpowiedź

Czy setprecision w rundzie c ++? Jeśli tak, dlaczego to widzę?

11 odpowiedzi

Jaka jest maksymalna długość znaków potrzebnych do przedstawienia dowolnej wartości podwójnej?

4 odpowiedź

Liczba cyfr znaczących dla typu zmiennoprzecinkowego

3 odpowiedź

Powtórne porównanie punktów zmiennoprzecinkowych