Wyniki wyszukiwania dla "floating-point"

4 odpowiedź

Jak dotrzeć do macierzy jednostek z numpy.dot (A, A_inv)

2 odpowiedź

Czy w Pythonie można użyć zmiennej do zdefiniowania miejsc dziesiętnych

5 odpowiedzi

Dlaczego moja matematyka całkowita ze std :: pow podaje błędną odpowiedź?

1 odpowiedź

podwójna podwójna implementacja odporna na tryb zaokrąglania FPU

3 odpowiedź

Konwertuj „float” na bajty w Javascript bez Float32Array

Dobrze, więc jestem dość denerwującą sytuacją, w której nie mam dostępu do wpisanych tablic, takich jak Float32Array, ale wciąż muszę być w stanie przekonwer...

4 odpowiedź

Sortuj tablicę wielowymiarową według wartości dziesiętnych

7 odpowiedzi

obliczanie float php 2 miejsca po przecinku

2 odpowiedź

Arytmetyka zmiennoprzecinkowa i maszyna epsilon

Próbuję obliczyć przybliżenie wartości epsilon dla

4 odpowiedź

Dlaczego implementacja Java Double.compare (podwójna, podwójna) wygląda tak, jak jest?

1 odpowiedź

W przypadku pętli z pływakiem jako licznikiem, wzrastającej o 0,01, nie drukuje oczekiwanych wartości zmiennoprzecinkowych [duplikat]

To pytanie ma już tutaj odpowiedź:Niedokładności zmiennoprzecinkowe 2 odpowiedziSuma pływaka nie jest dokładna [zamknięta] 2 odpowiedzi