Suchergebnisse für Anfrage "floating-point"

4 die antwort

Warum optimiert Clang x * 1.0, aber NICHT x + 0.0?

Warum optimiert Clang die Schleife in diesem Code? #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) ...

2 die antwort

Wie konvertiere ich einen Hex-String in ein Float-Format in Java?

4 die antwort

Wie erkennt man Gleitkommaüber- und -unterläufe mit doppelter Genauigkeit?

Ich habe folgende Variablen:

TOP-Veröffentlichungen

8 die antwort

Python Rundungsproblem

>>> num = 4.123456 >>> round(num, 3) # expecting 4.123 4.1230000000000002 Ich erwarte 4.123 als Ergebnis, irre ich mich?

2 die antwort

Bibliothek für strikte Gleitkomma-Mathematik in .NET

8 die antwort

Wie verwalte ich die Aufteilung großer Zahlen in Python?

Ich habe eine 100-stellige Nummer und versuche, alle Ziffern der Nummer in eine Liste aufzunehmen, damit ich sie bearbeiten kann. Dazu verwende ich den folgenden Code: for x in range (0, 1000): list[x] = number % 10 number = number / 10Aber ...

2 die antwort

Division und Fließkomma

Kann mir jemand helfen, warum x2 null druckt. Ich denke, weil die Gleitkommadarstellung X1 abgerundet ist, gibt es eine Möglichkeit, die Präzession zu halten.

6 die antwort

Verwenden Sie NaN in C ++?

Was ist der beste Weg, um NaNs in C ++ zu verwenden? ich fandstd::numeric_limits<double>::quiet_NaN() undstd::numeric_limits<double>::signaling_NaN(). Ich würde gerne verwendensignaling_NaN um eine nicht initialisierte Variable wie ...

3 die antwort

php float berechnen

Ich habe hier eine seltsame mathematische Berechnung. Ich hoffe jemand wird es erklären. $a = 1.85/100; $b = 1.5/100; $c = 1.1/100; $d = 0.4/100; $e = 0.4/100; $f = 0.4/100; $g = 0.4/100; $h = $a + $b + $c + $d + $e + $f + $g; echo ...

3 die antwort

Wie kann man steuern, ob C math SSE2 verwendet?

Mit MSVC trat ich in den Aufbau der transzendentalen mathematischen Funktionen der C-Bibliothek im fp: strict-Modus ein. Sie scheinen alle dem gleichen Muste...