Suchergebnisse für Anfrage "floating-accuracy"
Präzision verloren bei Verwendung von read_csv in pandas
Ich habe Dateien des folgenden Formats in einer Textdatei, die ich in einen Pandas-Datenrahmen einlesen möchte. 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.6829942860|0.5139162227| ie Sie sehen ...
Kann ich pandas.dataframe.isin () mit einem numerischen Toleranzparameter verwenden?
Ich habe die folgenden Beiträge vorab überprüft. Gibt es eine Möglichkeit, DataFrame.isin () mit einem Näherungsfaktor oder einem Toleranzwert zu verwenden? Oder gibt es eine andere Methode, die das könnte? Datenrahmenzeilen filtern, wenn sich ...
Verlust der numerischen Genauigkeit von SQL Server 2005
Das Debuggen von finanzbezogenem SQL-Code stellte ein seltsames Problem mit der Genauigkeit der numerischen (24,8) Mathematik fest.Wenn Sie die folgende Abfr...
Warum wertet GDB Gleitkomma-Arithmetik anders aus als C ++?
Ich bin auf etwas Verwirrendes gestoßen, als ich versucht habe, ein Gleitkomma-Rechenproblem zu lösen.Erstens den Code. Ich habe das Wesentliche meines Probl...
Warum ist die Ausgabe von inv () und pinv () in Matlab und Octave nicht gleich?
Mir ist aufgefallen, dass A eine NxN-Matrix ist und die inverse Matrix hat. Die Ausgabe der Funktionen inv () und pinv () unterscheidet sich jedoch. - Meine ...
Die MySQL-Bedingung "größer als" gibt manchmal eine Zeile mit dem gleichen Wert zurück
Ich bin mit einer grundlegenden MySQL-Abfrage in ein verblüffendes Problem geraten. Das ist mein Tisch: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Jetzt versuche ich, alle Zeilen zu finden, in denen dierating Spalte ist größer als ...
Wie breitet sich ein Gleitkomma-Fehler aus, wenn mathematische Operationen in C ++ ausgeführt werden?
Nehmen wir an, wir haben die folgenden Variablen deklariert float a = 1.2291; float b = 3.99; float -Variablen haben die Genauigkeit 6, was (wenn ich das richtig verstehe) bedeutet, dass die Differenz zwischen der Zahl, die der Computer ...
Wie finden Sie den nächstgelegenen ungleichen Wert eines Floats? [Duplikat
Diese Frage hat hier bereits eine Antwort: Wie ändere ich einen Float um das kleinste Inkrement (oder in der Nähe davon)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 answersA float (a.k.a. single) -Wert ...