Wyniki wyszukiwania dla "floating-point"

6 odpowiedzi

C # Math.Pow () jest uszkodzony

I nie, nie dotyczy to (moim zdaniem) podziału liczby całkowitej lub zmiennoprzecinkowych.Mój dokładny kod to:

2 odpowiedź

Lua - pakowanie liczb zmiennoprzecinkowych o pojedynczej precyzji IEEE754

Chcę stworzyć funkcję w czystej Lua, która generujefrakcja (23 bity), anwykładnik potęgowy (8 bitów) i aznak (1 bit) z liczby, więc liczba jest w przybliżeni...

6 odpowiedzi

Znaczące liczby w module dziesiętnym

Postanowiłem więc spróbować rozwiązać moją pracę domową fizyki, pisząc niektóre skrypty Pythona, aby rozwiązać problemy dla mnie. Jednym z problemów, z który...

2 odpowiedź

Zdobądź „kawałki” pływaka w Pythonie?

Szukam odpowiednika języka Java w języku Python

4 odpowiedź

Formatowanie Float w C ++

Jak sformatować zmiennoprzecinkowy w C ++, aby wyświetlić dwa zaokrąglone miejsca po przecinku? Nie mam szczęścia

2 odpowiedź

Dwie bardzo podobne funkcje związane z grzechem () wykazują bardzo różne wyniki - dlaczego?

Rozważ następujące dwa programy, które wykonują te same obliczenia na dwa różne sposoby:

1 odpowiedź

Element neutralny dla min () i max () w redukcji OpenCL

12 odpowiedzi

Format pływa za pomocą standardowego modułu json

1 odpowiedź

Zmień typ obiektu Mat z CV_32F na CV_8U

Próbowałem wyświetlić obraz typu CV_32F za pomocą funkcji imshow, ale pokazał onBIAŁY obraz. wDokumentacja biorąc pod uwagę, że obrazy zmiennoprzecinkowe zos...

5 odpowiedzi

Czy mogę polegać na precyzyjnym obejściu PHP php.ini dla problemu zmiennoprzecinkowego

Znalazłem pewne obejścieproblem zmiennoprzecinkowy w PHP:ustawienie php.ini