Suchergebnisse für Anfrage "floating-point"
Django Float-Format erhalten nur Ziffern nach dem Gleitkomma
Gibt es einen Django-Template-Filter, um nur Ziffern nach dem Gleitkomma zu erhalten? Zum Beispiel 2.34 --> 34 2.00 --> 00 1.10 --> 10 Ich habe in @ keine Antwort ...
Float und doppelter Datentyp in Java
Der Datentyp float ist ein 32-Bit-Gleitkomma nach IEEE 754 mit einfacher Genauigkeit und der Datentyp double ist ein 64-Bit-Gleitkomma nach IEEE 754 mit doppelter Genauigkeit. Was bedeutet es? Und wann sollte ich float anstelle von double ...
float seltsame Ungenauigkeit Fehler in c [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answerstoday passierte mir etwas Seltsames, als ich versuchte, die Ausgabe dieses Codes zu kompilieren ...
Java Fließkomma-Hochpräzisionsbibliothek [geschlossen]
Welche Bibliotheken für Java bieten eine schnelle Implementierung für Gleitkomma- oder Festkommaoperationen mit einer Genauigkeit von mehreren tausend Stellen? Wie performant sind sie? Für mich ist es eine Voraussetzung, dass ein ...
Gleitpunktgenauigkeit in Ruby-on-Rails-Modellvalidierungen
Ich versuche, einen Dollarbetrag mit einem regulären Ausdruck zu validieren:^[0-9]+\.[0-9]{2}$ Dies funktioniert einwandfrei, aber wenn ein Benutzer das Formular absendet und der Dollarbetrag mit 0 (Null) endet, wird die 0 durch Ruby (oder ...
Numerische Vergleichsschwierigkeit in R
Ich versuche, zwei Zahlen in R als Teil einer if-Anweisung zu vergleichen: (a-b) >= 0.5 In diesem speziellen Fall ist a = 0,58 und b = 0,08 ... und doch(a-b) >= 0.5 ist falsch. Ich bin mir der Gefahren bei der Verwendung von @ bewus== für ...
Warum haben diese beiden float64 unterschiedliche Werte?
Betrachten Sie diese beiden Fälle: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)( Go Playground Link [http://play.golang.org/p/k3OLoemaA8]) Der zweite druckt 9.120000000000001, was eigentlich in Ordnung ist,ch verstehe, warum das ...
x86-64 lange doppelte Präzision
Was ist die tatsächliche Präzision von Long Double auf Intel 64-Bit-Plattformen? Sind es 80 Bits, die auf 128 oder tatsächliche 128 Bits aufgefüllt sind? wenn früher, neben gmp, gibt es noch eine andere Möglichkeit, echte 128-Genauigkeit zu ...
Wie verwalte ich die Aufteilung großer Zahlen in Python?
Ich habe eine 100-stellige Nummer und versuche, alle Ziffern der Nummer in eine Liste aufzunehmen, damit ich sie bearbeiten kann. Dazu verwende ich den folgenden Code: for x in range (0, 1000): list[x] = number % 10 number = number / 10Aber ...
Double Precision Floating Point in CUDA
Unterstützt CUDA Gleitkommazahlen mit doppelter Genauigkeit? Auch was sind die Gründe dafür?