Suchergebnisse für Anfrage "floating-point"
php float berechnen
Ich habe hier eine seltsame mathematische Berechnung. Ich hoffe jemand wird es erklären. $a = 1.85/100; $b = 1.5/100; $c = 1.1/100; $d = 0.4/100; $e = 0.4/100; $f = 0.4/100; $g = 0.4/100; $h = $a + $b + $c + $d + $e + $f + $g; echo ...
Die effizienteste Methode zur Implementierung der pow () - Funktion in Gleitkommazahlen
Ich versuche, meine eigene Version der Funktionen pow () und sqrt () zu implementieren, da meine benutzerdefinierte Bibliothek keine Gleitkomma-Unterstützung für pow () / sqrt () bietet. Kann jemand helfen
Warum brauchen wir IEEE 754 Rest?
Ich lese geradedieses Them [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (vor allem die letzten Kommentare). Dann habe ich mich gefragt, warum wir das eigentlich brauchen, um den Rest zu geben. ...
Wie wird die Unendlichkeit in einem C-Doppel dargestellt?
Ich habe aus dem Buch gelerntComputersysteme: Die Perspektive eines Programmierers dass der IEEE-Standard erfordert, dass die Gleitkommazahl mit doppelter Genauigkeit im folgenden 64-Bit-Binärformat dargestellt wird: s: 1 Bit für Vorzeichenexp: ...
Problem mit der Suchfunktion in MATLAB
Ich habe zwei Arrays von Daten, die ich zu verschmelzen versuche. Eine enthält die tatsächlichen Latenzen aus einem Experiment in der ersten Spalte (z. B. 0,345, 0,455 ... niemals mehr als 3 Dezimalstellen) zusammen mit anderen Daten aus diesem ...
Was führt beim Kompilieren für 64-Bit zu einem erheblichen Verlust der FP-Genauigkeit?
Plattform: C # mit Visual Studio 2013. Ich hatte eine Windows-Anwendung auf einer 64-Bit-Haswell-CPU, die mit aktivierter Option "32-Bit bevorzugen" ordnungsgemäß funktionierte. Ich entschied mich für ein Upgrade auf "Bevorzugt 64-Bit", indem ...
Auf n signifikante Ziffern aufrunden
Ich versuche, Code in MATLAB zu schreiben, der die Zahl auf bestimmte (wie ich frage) signifikante Stellen rundet. Ich bin mir nicht sicher, wie ich es machen soll. Irgendwelche Vorschläge
Problem mit Präzisions-Gleitkommaoperation in C
Für eines meiner Kursprojekte habe ich begonnen, "Naive Bayesian Classifier" in C zu implementieren. Mein Projekt besteht darin, eine Dokumentklassifizierungsanwendung (insbesondere Spam) unter Verwendung großer Trainingsdaten zu ...
Numpy float64 vs Python float
Ich kämpfe mit Gleitkomma-Problemen in der read_csv-Funktion von Pandas. Bei meiner Untersuchung fand ich Folgendes: In [15]: a = 5.9975 In [16]: a Out[16]: 5.9975 In [17]: np.float64(a) Out[17]: 5.9974999999999996Warum wird gebautfloat von ...
Wie kann ich Gleitkommazahlen in verschiedenen Reihenfolgen addieren und immer die gleiche Summe erhalten?
Angenommen, ich habe drei 32-Bit-Gleitkommawerte,a, b, undc, so dass(a + b) + c != a + (b + c). Gibt es einen Summationsalgorithmus, der vielleicht @ ähnelKahan Summation [http://en.wikipedia.org/wiki/Kahan_summation_algorithm], das garantiert, ...