Wyniki wyszukiwania dla "floating-point"
Błąd przy użyciu (int) i (podwójnie) razem, aby odciąć dziesiętne
Kiedy używam (int) z (double) czasami nie działa poprawnie.Przykład kodu PHP:Muszę opuścić 2 dziesiętne i usunąć inne ...Wiem, że numer_formatu (); funkcja A...
Błąd obliczania float w PHP podczas odejmowania
Mam bardzo dziwny problem. Jeśli odejmę 2 zmiennoprzecinkowe wartości, gdzie jeden jest wynikiem operacji matematycznej, otrzymuję niewłaściwą wartość.Przykład:
Jak obliczyć liczbę cyfr po zmiennoprzecinkowym w systemie iOS?
Jak obliczyć liczbę cyfr po zmiennoprzecinkowym w systemie iOS?Na przykład:3.105 powinien powrócić 33.0 powinno zwrócić 02.2 powinien zwrócić 1Aktualizacja: ...
Jak przekonwertować próbki pcm w tablicy bajtów na liczby zmiennoprzecinkowe z zakresu od -1,0 do 1,0 iz powrotem?
Algorytm resamplingu, którego używam, oczekujepływak tablica zawierająca próbki wejściowe w zakresie-1.0 do 1.0 . Dane audio to16 bitów PCM z sampleratem22 k...
Denormalized Numbers - IEEE 754 Floating Point
Próbuję więc dowiedzieć się więcej o liczbach denormalizowanych zdefiniowanych w standardzie IEEE 754 dla liczb zmiennoprzecinkowych. Przeczytałem już kilka ...
Co to jest długi podwójny na x86-64?
Ktoś mi powiedział, że:W x86-64 arytmetyka FP jest wykonywana przy użyciu SSE, a zatem długie podwójne ma 64 bity.Ale w x86-64 ABI mówi, że:
grzech, cos, opalenizna i błąd zaokrąglania
Wykonuję kilka obliczeń trygonometrii w C / C ++ i napotykam problemy z błędami zaokrąglania. Na przykład w moim systemie Linux:
Dlaczego skalarny SSE sqrt (x) jest wolniejszy niż rsqrt (x) * x?
Profilowałem część naszej podstawowej matematyki w Intel Core Duo i patrząc na różne podejścia do pierwiastka kwadratowego zauważyłem coś dziwnego: używając ...