Suchergebnisse für Anfrage "floating-accuracy"
Avg of float inconsistency
Die Auswahl gibt direkt bei 23.000 Zeilen zurück. Die Ausnahme gibt zwischen 60 und 200 Zeilen (und nicht dieselben Zeilen) zurück. Ausnahme sollte 0 zurückgeben, da es sich um eine Ausnahme handelt. Wählen Sie ein @ au PK: [docSVenum1]. ...
Cs pow () -Funktion gemäß Header-Datei <math.h> funktioniert nicht richtig
Ich sehe, dass für den folgenden Code das unten stehende Ergebnis angezeigt wird. Gibt es eine Idee, warum die Ausgabe so ist? #include <stdio.h> #include <math.h> int main() { int i = 0; for(i = 0; i < 10; i++) { printf("%d\t\t\t%d\t\t\t", i, ...
Effizientes Rechnen von (a - K) / (a + K) mit verbesserter Genauigkeit
n verschiedenen Kontexten, zum Beispiel für die Argumentreduktion für mathematische Funktionen, muss man @ berechn(a - K) / (a + K), woa ist ein positives Variablenargument undK ist eine Konstante. In vielen Fällen,K ist eine Zweierpotenz. Dies ...
Präzision verloren bei Verwendung von read_csv in pandas
Ich habe Dateien des folgenden Formats in einer Textdatei, die ich in einen Pandas-Datenrahmen einlesen möchte. 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.6829942860|0.5139162227| ie Sie sehen ...
PHP - Floating Number Precision [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answers$a = '35'; $b = '-34.99'; echo ($a + $b);Ergebnisse in 0.009999999999998 Was ist damit los? Ich fragte ...
c ++ fmod gibt 0.2 für fmod (0.6,0.2) zurück
wenn ich fmod (0.6.0.2) in c ++ verwende, gibt es 0.2 zurück Ich weiß, dass dies durch Gleitkommagenauigkeit verursacht wird, aber es scheint, dass ich in diesem Moment den Rest von zwei Doppelten bekommen muss ielen Dank für alle Lösungen für ...
Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 WTF?
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...
Kann ich pandas.dataframe.isin () mit einem numerischen Toleranzparameter verwenden?
Ich habe die folgenden Beiträge vorab überprüft. Gibt es eine Möglichkeit, DataFrame.isin () mit einem Näherungsfaktor oder einem Toleranzwert zu verwenden? Oder gibt es eine andere Methode, die das könnte? Datenrahmenzeilen filtern, wenn sich ...