Suchergebnisse für Anfrage "floating-point"
Warum optimiert Clang x * 1.0, aber NICHT x + 0.0?
Warum optimiert Clang die Schleife in diesem Code? #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) ...
Wie erkennt man Gleitkommaüber- und -unterläufe mit doppelter Genauigkeit?
Ich habe folgende Variablen:
Python Rundungsproblem
>>> num = 4.123456 >>> round(num, 3) # expecting 4.123 4.1230000000000002 Ich erwarte 4.123 als Ergebnis, irre ich mich?
Wie verwalte ich die Aufteilung großer Zahlen in Python?
Ich habe eine 100-stellige Nummer und versuche, alle Ziffern der Nummer in eine Liste aufzunehmen, damit ich sie bearbeiten kann. Dazu verwende ich den folgenden Code: for x in range (0, 1000): list[x] = number % 10 number = number / 10Aber ...
Division und Fließkomma
Kann mir jemand helfen, warum x2 null druckt. Ich denke, weil die Gleitkommadarstellung X1 abgerundet ist, gibt es eine Möglichkeit, die Präzession zu halten.
Verwenden Sie NaN in C ++?
Was ist der beste Weg, um NaNs in C ++ zu verwenden? ich fandstd::numeric_limits<double>::quiet_NaN() undstd::numeric_limits<double>::signaling_NaN(). Ich würde gerne verwendensignaling_NaN um eine nicht initialisierte Variable wie ...
php float berechnen
Ich habe hier eine seltsame mathematische Berechnung. Ich hoffe jemand wird es erklären. $a = 1.85/100; $b = 1.5/100; $c = 1.1/100; $d = 0.4/100; $e = 0.4/100; $f = 0.4/100; $g = 0.4/100; $h = $a + $b + $c + $d + $e + $f + $g; echo ...
Wie kann man steuern, ob C math SSE2 verwendet?
Mit MSVC trat ich in den Aufbau der transzendentalen mathematischen Funktionen der C-Bibliothek im fp: strict-Modus ein. Sie scheinen alle dem gleichen Muste...