Suchergebnisse für Anfrage "precision"

2 die antwort

Konvertieren Sie Java-Zahlen in BigDecimal: der beste Weg

Ich suche nach dem besten Weg, eine Zahl in ein BigDecimal umzuwandeln.Ist das gut genug

5 die antwort

Zwei Nachkommastellen in c ++ anzeigen [duplizieren]

Diese Frage hat hier bereits eine Antwort:Mit cout die richtige Anzahl von Dezimalstellen ausgeben 11 AntwortenEin ähnliches Thema wird bereits im Forum disk...

1 die antwort

Fließkomma-Gleichheitstest und zusätzliche Präzision: Kann dieser Code fehlschlagen?

Die Diskussion begann untermeine antwort auf eine andere frage. Der folgende Code bestimmtMaschine epsilon:

TOP-Veröffentlichungen

3 die antwort

Hochpräzise Gleitkommazahlen in Haskell?

Ich weiß, dass Haskell native Datentypen hat, mit denen Sie wirklich große ganze Zahlen haben können, also Dinge wie

1 die antwort

Reicht die Angabe des Gleitkommatyps aus, um dieselben Ergebnisse zu gewährleisten?

3 die antwort

Präzisionsverlust beim Hinzufügen von Doppel?

30 die antwort

Unerwartete Ergebnisse bei der Arbeit mit sehr großen Ganzzahlen für interpretierte Sprachen

2 die antwort

Kann eine Monte-Carlo-Pi-Berechnung für einen Weltrekord verwendet werden?

Ich habe diese Zufallsfunktion, um pi zu berechnenMonte-Carlo-Stil:

2 die antwort

Gleitkomma-Arithmetikfehler

Ich benutze die folgende Funktion, um die Ableitung einer Funktion an einem Punkt zu approximieren:

3 die antwort

Warum ist die Ausgabe von inv () und pinv () in Matlab und Octave nicht gleich?

Mir ist aufgefallen, dass A eine NxN-Matrix ist und die inverse Matrix hat. Die Ausgabe der Funktionen inv () und pinv () unterscheidet sich jedoch. - Meine ...