Wyniki wyszukiwania dla "floating-point"

6 odpowiedzi

iOS Objective-C Jak uzyskać 2 wartości dziesiętne zaokrąglone po przecinku?

mam

3 odpowiedź

metoda intBitsToFloat w Java VS C #?

Dostaję złą liczbę podczas konwersji bitów na float w C #.Użyjmy tego bitu

1 odpowiedź

Jaka jest różnica między cichym NaN a sygnalizacyjnym NaN?

Przeczytałem o zmiennoprzecinkowym i rozumiem, że NaN może wynikać z operacji. ale nie rozumiem dokładnie, jakie są te pojęcia. Jaka jest różnica?Który można...

2 odpowiedź

Czy obliczenie pi Monte Carlo może być wykorzystane do rekordu świata?

Mam tę funkcję losową do obliczenia piStyl Monte Carlo:

2 odpowiedź

Czy Math.Round (podwójny, dziesiętny) zawsze zwraca spójne wyniki

Oczywiście nigdy nie należy porównywać wartości zmiennoprzecinkowych, które wynikają z obliczeń dla równości, ale zawsze należy stosować małą tolerancję, np .:

5 odpowiedzi

Jak ustawić precyzję zmiennoprzecinkową w Perlu?

8 odpowiedzi

dziwne wyjście w porównaniu z pływakiem z literalnym pływakiem

7 odpowiedzi

Dodatek Float promowany do podwójnego?

Dziś rano miałem mały moment WTF. Tę WTF można podsumować w ten sposób:

3 odpowiedź

pow () rzut na liczbę całkowitą, nieoczekiwany wynik

Mam problemy z użyciem liczby całkowitej dla

7 odpowiedzi

największa liczba całkowita, która może być przechowywana w podwójnej