Suchergebnisse für Anfrage "floating-accuracy"
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...
Kann ich pandas.dataframe.isin () mit einem numerischen Toleranzparameter verwenden?
Ich habe die folgenden Beiträge vorab überprüft. Gibt es eine Möglichkeit, DataFrame.isin () mit einem Näherungsfaktor oder einem Toleranzwert zu verwenden? Oder gibt es eine andere Methode, die das könnte? Datenrahmenzeilen filtern, wenn sich ...
c ++ fmod gibt 0.2 für fmod (0.6,0.2) zurück
wenn ich fmod (0.6.0.2) in c ++ verwende, gibt es 0.2 zurück Ich weiß, dass dies durch Gleitkommagenauigkeit verursacht wird, aber es scheint, dass ich in diesem Moment den Rest von zwei Doppelten bekommen muss ielen Dank für alle Lösungen für ...
Präzision verloren bei Verwendung von read_csv in pandas
Ich habe Dateien des folgenden Formats in einer Textdatei, die ich in einen Pandas-Datenrahmen einlesen möchte. 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.6829942860|0.5139162227| ie Sie sehen ...
Effizientes Rechnen von (a - K) / (a + K) mit verbesserter Genauigkeit
n verschiedenen Kontexten, zum Beispiel für die Argumentreduktion für mathematische Funktionen, muss man @ berechn(a - K) / (a + K), woa ist ein positives Variablenargument undK ist eine Konstante. In vielen Fällen,K ist eine Zweierpotenz. Dies ...
Avg of float inconsistency
Die Auswahl gibt direkt bei 23.000 Zeilen zurück. Die Ausnahme gibt zwischen 60 und 200 Zeilen (und nicht dieselben Zeilen) zurück. Ausnahme sollte 0 zurückgeben, da es sich um eine Ausnahme handelt. Wählen Sie ein @ au PK: [docSVenum1]. ...
Was genau ist der Parameter "resolution" von numpy float
Ich bin auf der Suche nach mehr Verständnis für den "Resolution" -Parameter eines numpy float (ich denke, jeder computerdefinierte float für diese Angelegenheit). Betrachten Sie das folgende Skript: import numpy as np a = np.finfo(10.1) print ...
Wird (int) pow (n, m) für einige positive ganze Zahlen n, m falsch sein?
Assumingn undm sind positive ganze Zahlen und nm liegt im Bereich einer ganzen Zahl, wird(int)pow(n,m) jemals eine falsche Antwort geben? Ich habe viele @ ausprobien zumm=2 und habe bisher keine falschen Antworten erhalten.
Den Dezimalteil eines Double in Swift erhalten
Ich versuche, die Dezimal- und Ganzzahlteile eines Double in Swift zu trennen. Ich habe eine Reihe von Ansätzen ausprobiert, aber alle stoßen auf dasselbe Problem ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 ...
Payne Hanek Algorithmus Implementierung in C
Ich habe Mühe zu verstehen, wie der von Payne und Hanek veröffentlichte Entfernungsreduzierungsalgorithmus (Entfernungsreduzierung für trigonometrische Funktionen) implementiert werden kann. Ich habe gesehen, dass es diese Bibliothek ...