Wyniki wyszukiwania dla "floating-point"

3 odpowiedź

Dziwny wynik podziału pływaka

7 odpowiedzi

Czy w HTML5 jest typ wejścia zmiennoprzecinkowego?

4 odpowiedź

Python float-str - float weirdness

2 odpowiedź

Python float to ratio

Próbuję uzyskać proporcję zmiennej i uzyskać nieoczekiwany wynik. Czy ktoś może to wyjaśnić?

7 odpowiedzi

Liczb zmiennoprzecinkowych

Czytam więc ten samouczek PDF o nazwie: „Learning Python Fourth Edition”. Teraz doszedłem do części, której nie rozumiem, ponieważ jestem całkiem początkując...

4 odpowiedź

Jak przekonwertować Int / Decimal na float w C #?

Jak przekonwertować z int lub dziesiętny na zmiennoprzecinkowy w C #?Muszę użyć floatu do kontroli innej firmy, ale nie używam ich w moim kodzie i nie jestem...

4 odpowiedź

Jaka jest najmniejsza niezerowa dodatnia liczba zmiennoprzecinkowa w Perlu?

Mam program w Perlu, który działa z prawdopodobieństwami, które czasami mogą być bardzo małe. Z powodu błędu zaokrąglania czasami jedno z prawdopodobieństw w...

4 odpowiedź

Dlaczego podział przez zero w standardzie IEEE754 daje wartość nieskończoną?

Jestem po prostu ciekawy, dlaczego

3 odpowiedź

Porównanie wartości zmiennoprzecinkowych

Właśnie przeczytałem oświadczenie o porównaniu wartości zmiennoprzecinkowychWartości zmiennoprzecinkowe nie powinny być porównywane za pomocą operatorów == l...

2 odpowiedź

Biblioteka dla ścisłej matematyki zmiennoprzecinkowej w .NET

Mam algorytm / obliczenia w Javie i test jednostkowy. Test jednostki oczekuje wyniku z pewną precyzją / delta. Teraz przeniesiłem algo do .NET i chciałbym uż...