Suchergebnisse für Anfrage "precision"
Konvertieren Sie Java-Zahlen in BigDecimal: der beste Weg
Ich suche nach dem besten Weg, eine Zahl in ein BigDecimal umzuwandeln.Ist das gut genug
Zwei Nachkommastellen in c ++ anzeigen [duplizieren]
Diese Frage hat hier bereits eine Antwort:Mit cout die richtige Anzahl von Dezimalstellen ausgeben 11 AntwortenEin ähnliches Thema wird bereits im Forum disk...
Fließkomma-Gleichheitstest und zusätzliche Präzision: Kann dieser Code fehlschlagen?
Die Diskussion begann untermeine antwort auf eine andere frage. Der folgende Code bestimmtMaschine epsilon:
Hochpräzise Gleitkommazahlen in Haskell?
Ich weiß, dass Haskell native Datentypen hat, mit denen Sie wirklich große ganze Zahlen haben können, also Dinge wie
Kann eine Monte-Carlo-Pi-Berechnung für einen Weltrekord verwendet werden?
Ich habe diese Zufallsfunktion, um pi zu berechnenMonte-Carlo-Stil:
Gleitkomma-Arithmetikfehler
Ich benutze die folgende Funktion, um die Ableitung einer Funktion an einem Punkt zu approximieren:
Warum ist die Ausgabe von inv () und pinv () in Matlab und Octave nicht gleich?
Mir ist aufgefallen, dass A eine NxN-Matrix ist und die inverse Matrix hat. Die Ausgabe der Funktionen inv () und pinv () unterscheidet sich jedoch. - Meine ...