Suchergebnisse für Anfrage "floating-point"
Compare schwebt in PHP
Ich möchte zwei Floats in PHP vergleichen, wie in diesem Beispielcode: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; }In diesem Code wird das Ergebnis des @ zurückgegebelse ...
Floats nicht als negativ bewertet (Python)
Ich versuche, Gleitkommawerte in einer Liste zu löschen, die negativ sind. Die ursprüngliche Liste mit allen Werten sieht folgendermaßen aus: [ 0.030079979253112028, -0.006015995850622406, -0.08920269709543568, -25.72356846473029, ...
float128 und Double-Double-Arithmetik
Ich habe in Wikipedia gesehen, dass eine Möglichkeit, Quad-Genauigkeit zu implementieren, die Verwendung von Double-Double-Arithmetik ist, auch wenn die Genauigkeit in Bezug auf Bits nicht exakt gleich ...
C ++ Präzision: String zu Double
Ich habe ein Problem mit der Genauigkeit eines Double, nachdem einige Operationen an einer konvertierten Zeichenfolge in Double ausgeführt wurden. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion ...
Optimierte Annäherung mit geringer Genauigkeit an `rootn (x, n)`
rootn (float_t x, int_t n) ist eine Funktion, die das @ berechnn -th root x 1 / n und wird von einigen Programmiersprachen wie @ unterstüt OpenCL [https://www.khronos.org/registry/cl/sdk/1.2/docs/man/xhtml/rootn.html]. ...
Extended (80-Bit) Double Floating Point in x87, nicht SSE2 - wir verpassen es nicht?
ch las heute überForscher, die feststellen, dass NVidias Phys-X-Bibliotheken x87 FP im Vergleich zu SSE2 verwenden [http://www.zdnet.com/blog/hardware/nvidia-de-optimizes-physx-for-the-cpu/8852?tag=nl.e539] . Dies ist offensichtlich suboptimal ...
Wie kann eine Dezimalzahl begrenzt werden? [Duplikat
Mögliches Duplizieren: So formatieren Sie eine Dezimalzahl [https://stackoverflow.com/questions/697977/how-to-format-a-decimal] Wie kann ich meine Dezimalzahl begrenzen, damit ich nach dem Punkt nur noch 3 Stellen bekomme? e.g 2.774
pandas: Dataframe.replace () mit Regex
Ich habe eine Tabelle, die so aussieht: df_raw = pd.DataFrame(dict(A = pd.Series(['1.00','-1']), B = pd.Series(['1.0','-45.00','-']))) A B 0 1.00 1.0 1 -1 -45.00 2 NaN -Ich möchte '-' durch 'dataframe.replace ()' bis '0.00' ersetzen, aber es ...
Django, Division zwischen zwei Kommentaren wird nicht korrekt berechnet
Ich versuche, eine Aufteilung zwischen zwei Annotate-Ergebnissen in Queryset zu erhalten. Die Impression ist viel größer als das Klicken, daher sollte ich die zehnte Dezimalstelle erhalten. def get_queryset(self): ...
Gleitkommapräzision beim Wechsel von i386 zu x86_64
Ich habe eine Anwendung, die für Linux x86 32-Bit entwickelt wurde. Abhängig von den Ergebnissen gibt es viele Gleitkommaoperationen und viele Tests. Jetzt portieren wir es auf x86_64, aber die Testergebnisse unterscheiden sich in dieser ...