Suchergebnisse für Anfrage "significant-digits"
Gibt es eine Möglichkeit, die "signifikanten Zahlen" einer Dezimalstelle zu ermitteln?
AktualisiereOK, nach einigen Nachforschungen und zum großen Teil dank der hilfreichen Antworten von Jon und Hans, konnte ich dies zusammenstellen. Bisher scheint es gut zu funktionieren. Ich würde mein Leben natürlich nicht auf die absolute ...
Rundung auf eine beliebige Anzahl von signifikanten Stellen
Wie kannst du runden?irgendein Zahl (nicht nur ganze Zahlen> 0) bis N signifikante Stellen?Wenn ich zum Beispiel auf drei signifikante Stellen runden möch...
Auf n signifikante Ziffern aufrunden
Ich versuche, Code in MATLAB zu schreiben, der die Zahl auf bestimmte (wie ich frage) signifikante Stellen rundet. Ich bin mir nicht sicher, wie ich es machen soll. Irgendwelche Vorschläge
Ist Gleitkommapräzision veränderbar oder unveränderlich?
Ich erhalte immer wieder gemischte Antworten, ob Gleitkommazahlen (d. H.float, double, oderlong double) einen und nur einen Genauigkeitswert haben oder einen Genauigkeitswert haben, der variieren kann. Ein Thema namensfloat vs. double ...