Wyniki wyszukiwania dla "floating-point"
Arytmetyka zmiennoprzecinkowa w skrypcie powłoki UNIX
Jak wykonać arytmetykę z liczbami zmiennoprzecinkowymi, takimi jak1,503923 w skrypcie powłoki? Liczby zmiennoprzecinkowe są pobierane z pliku jako łańcuch. F...
Jak wydrukować podwójne z przecinkiem
W C ++ mam zmienną typu float / double.Kiedy drukuję to na przykład cout, wynikowy łańcuch jest rozdzielany kropkami.
Chociaż 3 * 0.1 nie może być dokładnie reprezentowane, dlaczego Javascript może poprawnie obliczyć 0,15 * 2? [duplikować]
Możliwy duplikat:Czy matematyka zmiennoprzecinkowa JavaScript jest zerwana?W Javascript:
Dlaczego Microsoft chciałby NIE naprawiać błędnych implementacji Equals i GetHashCode za pomocą NaN? [Zamknięte]
W systemie .NET Framework implementacja (
Znajdź pływak tuż poniżej wartości
Powiedzmy, że mam float X. Chcę znaleźć największą liczbę, która jest mniejsza niż X i może być bezstratnie przechowywana w floacie.IIRC standard IEEE mówi, ...
Wydajny sposób zaokrąglania liczb podwójnej precyzji do mniejszej precyzji podanej w liczbie bitów
W C # chcę zaokrąglić podwajając do niższej precyzji, dzięki czemu mogę przechowywać je w segmentach o różnej wielkości w tablicy asocjacyjnej. W przeciwieńs...