Wyniki wyszukiwania dla "floating-point"
W przypadku pętli z pływakiem jako licznikiem, wzrastającej o 0,01, nie drukuje oczekiwanych wartości zmiennoprzecinkowych [duplikat]
To pytanie ma już tutaj odpowiedź:Niedokładności zmiennoprzecinkowe 2 odpowiedziSuma pływaka nie jest dokładna [zamknięta] 2 odpowiedzi
Niezgodność typu danych w fortran
Napisałem podstawowy algorytm w Fortranie 95, aby obliczyć gradient funkcji (której przykład jest przepisany w kodzie) przy użyciu centralnych różnic rozszer...
Sterownik Microsoft ACE zmienia precyzję zmiennoprzecinkową w pozostałej części mojego programu
Mam problem, gdzie wydaje się, że wyniki niektórych obliczeń zmieniają się po użyciuSterownik Microsoft ACE aby otworzyć arkusz kalkulacyjny Excel.Poniższy k...
Jaka jest różnica między cichym NaN a sygnalizacyjnym NaN?
Przeczytałem o zmiennoprzecinkowym i rozumiem, że NaN może wynikać z operacji. ale nie rozumiem dokładnie, jakie są te pojęcia. Jaka jest różnica?Który można...