Wyniki wyszukiwania dla "ieee-754"

3 odpowiedź

Konwersja Int na Float lub Float na Int przy użyciu operacji Bitwise (zmiennoprzecinkowy program)

3 odpowiedź

Dlaczego IEEE 754 rezerwuje tak wiele wartości NaN?

3 odpowiedź

Wdrażanie podziału jednoprecyzyjnego jako mnożenie podwójnej precyzji

1 odpowiedź

Dlaczego zmiennoprzecinkowy IEEE-754 nie jest wymienny między platformami?

2 odpowiedź

Błąd arytmetyczny zmiennoprzecinkowy

1 odpowiedź

Jaka jest różnica między cichym NaN a sygnalizacyjnym NaN?

Przeczytałem o zmiennoprzecinkowym i rozumiem, że NaN może wynikać z operacji. ale nie rozumiem dokładnie, jakie są te pojęcia. Jaka jest różnica?Który można...

2 odpowiedź

Obliczanie poprawnie zaokrąglonego / prawie poprawnie zaokrąglonego sześciennego korzenia zmiennoprzecinkowego

Załóżmy, że poprawnie zaokrąglono standardowe funkcje biblioteki, takie jak wCRlibm są dostępne. Jak zatem obliczyć poprawnie zaokrąglony pierwiastek szeście...

5 odpowiedzi

Wyjaśnienie Laymana, dlaczego JavaScript ma dziwną zmienną matematykę - standard IEEE 754 [duplikat]

To pytanie ma już odpowiedź tutaj: Czy matematyka zmiennoprzecinkowa jest zepsuta? [/questions/588004/is-floating-point-math-broken] 28 odpowiedzi Nigdy nie rozumiem dokładnie, co się dzieje z JavaScript, kiedy wykonuję operacje matematyczne na ...

1 odpowiedź

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

3 odpowiedź

Dlaczego notacja wykładnicza z wartościami dziesiętnymi nie działa? [Zamknięte]

Umownie