Wyniki wyszukiwania dla "floating-point"

1 odpowiedź

W przypadku pętli z pływakiem jako licznikiem, wzrastającej o 0,01, nie drukuje oczekiwanych wartości zmiennoprzecinkowych [duplikat]

To pytanie ma już tutaj odpowiedź:Niedokładności zmiennoprzecinkowe 2 odpowiedziSuma pływaka nie jest dokładna [zamknięta] 2 odpowiedzi

1 odpowiedź

Test równości zmiennoprzecinkowej i dodatkowa precyzja: czy ten kod może się nie powieść?

1 odpowiedź

Niezgodność typu danych w fortran

Napisałem podstawowy algorytm w Fortranie 95, aby obliczyć gradient funkcji (której przykład jest przepisany w kodzie) przy użyciu centralnych różnic rozszer...

1 odpowiedź

Sterownik Microsoft ACE zmienia precyzję zmiennoprzecinkową w pozostałej części mojego programu

Mam problem, gdzie wydaje się, że wyniki niektórych obliczeń zmieniają się po użyciuSterownik Microsoft ACE aby otworzyć arkusz kalkulacyjny Excel.Poniższy k...

1 odpowiedź

Czy określenie typu zmiennoprzecinkowego jest wystarczające, aby zagwarantować takie same wyniki?

1 odpowiedź

Szczegóły implementacji sprzętu dzielącego zmiennoprzecinkowego

1 odpowiedź

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

1 odpowiedź

Nie uzyskiwanie dokładnych danych podczas cofania FFT

1 odpowiedź

Jak naprawić ten algorytm pierwiastka zmiennoprzecinkowego

1 odpowiedź

Jaka jest różnica między cichym NaN a sygnalizacyjnym NaN?

Przeczytałem o zmiennoprzecinkowym i rozumiem, że NaN może wynikać z operacji. ale nie rozumiem dokładnie, jakie są te pojęcia. Jaka jest różnica?Który można...