Wyniki wyszukiwania dla "floating-point"

1 odpowiedź

Jak naprawić ten algorytm pierwiastka zmiennoprzecinkowego

1 odpowiedź

Nie uzyskiwanie dokładnych danych podczas cofania FFT

4 odpowiedź

sizeof długi podwójny i precyzyjny nie pasujący?

Rozważ następujący kod C:

4 odpowiedź

porównanie podwójne i float [duplikat]

3 odpowiedź

Regex Javascript: walidacja double / float

Oto wzór, nad którym pracuję:

1 odpowiedź

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

3 odpowiedź

Błąd obliczania float w PHP podczas odejmowania

Mam bardzo dziwny problem. Jeśli odejmę 2 zmiennoprzecinkowe wartości, gdzie jeden jest wynikiem operacji matematycznej, otrzymuję niewłaściwą wartość.Przykład:

1 odpowiedź

Szczegóły implementacji sprzętu dzielącego zmiennoprzecinkowego

1 odpowiedź

Czy określenie typu zmiennoprzecinkowego jest wystarczające, aby zagwarantować takie same wyniki?

1 odpowiedź

Sterownik Microsoft ACE zmienia precyzję zmiennoprzecinkową w pozostałej części mojego programu

Mam problem, gdzie wydaje się, że wyniki niektórych obliczeń zmieniają się po użyciuSterownik Microsoft ACE aby otworzyć arkusz kalkulacyjny Excel.Poniższy k...