Wyniki wyszukiwania dla "floating-point"

6 odpowiedzi

Czy przechowuję dane statystyczne, czy potrzebuję DECIMAL, FLOAT lub DOUBLE?

3 odpowiedź

Wdrażanie podziału jednoprecyzyjnego jako mnożenie podwójnej precyzji

14 odpowiedzi

Python JSON serializuje obiekt dziesiętny

3 odpowiedź

Dlaczego IEEE 754 rezerwuje tak wiele wartości NaN?

6 odpowiedzi

Dlaczego zmiana kolejności sum zwraca inny wynik?

Dlaczego zmiana kolejności sum zwraca inny wynik?

4 odpowiedź

zmienna float nie spełnia warunków (C)

Próbuję skłonić użytkownika do wprowadzenia liczby z przedziału od 1,00000 do 0,00001, podczas gdy krawędzie nie są uwzględniane w zmiennej zmiennoprzecinkow...

5 odpowiedzi

Wydaj inną precyzję według kolumny za pomocą pandas.DataFrame.to_csv ()?

PytanieCzy możliwe jest określenie precyzji float specjalnie dla każdej kolumny, która ma być drukowana przez Pythona

2 odpowiedź

Python float to ratio

Próbuję uzyskać proporcję zmiennej i uzyskać nieoczekiwany wynik. Czy ktoś może to wyjaśnić?

6 odpowiedzi

podwójna precyzja C ++

1 odpowiedź

Czy istnieje limit w Javascript na miejsca dziesiętne na dużych platformach?