Android - dokładne obliczenia matematyczne
Mam problem, opracowuję aplikację, która powinna być w stanie wykonać kilka obliczeń matematycznych. Obliczenia te muszą być dokładne (lub raczej nie oczywiste)
Ale ten prosty kod
double a = 3.048d;
double b = 1000d;
double c = a / b;
daje mi błędny wynik c nie jest 0,003048 zgodnie z oczekiwaniami, to jest 0,0030480000000000004, co jest oczywiście błędne.
double d = 3.048 / 1000;
ten drugi urywek kodu daje poprawny wynik.
Wiem, że wszystkie obliczenia zmiennoprzecinkowe nie są dokładne przy obliczaniu na komputerach, ale nie wiem, jak rozwiązać ten problem.
z góry dziękuję!
Ludwig
Opracowywanie dla:
- Android 2.2
Urządzenie testowe:
- HTC Desire