Suchergebnisse für Anfrage "floating-point"
Erstellen Sie kompakte / menschenfreundliche Schwimmer mit vulgären Unicode-Fraktionen
Gibt es Module (vorzugsweise in der Standardbibliothek), die eine Gleitkommazahl in etwas verwandeln können, das menschlicher ist? Vielleicht ist es nicht menschlicher, aber immerhin kompakter. z.B. 4,625 würde "4⅝" werden (Bonus Brownie ...
Was genau ist der Parameter "resolution" von numpy float
Ich bin auf der Suche nach mehr Verständnis für den "Resolution" -Parameter eines numpy float (ich denke, jeder computerdefinierte float für diese Angelegenheit). Betrachten Sie das folgende Skript: import numpy as np a = np.finfo(10.1) print ...
Schreiben von IEEE 754-1985 als ASCII-Datei in einer begrenzten Zeichenfolge von 16 Byte
Dies ist ein Follow-up zu meinemoriginal post [https://stackoverflow.com/questions/32629084/best-ieee-754-1985-representation-for-x3-9-1978-based-standard] . Aber ich werde es aus Gründen der Klarheit wiederholen: Gemäß DICOM-Standard kann ein ...
Standard-Float-Druckformat ändern
Ich habe einige Listen und komplexere Strukturen, die Floats enthalten. Wenn ich sie drucke, sehe ich die Floats mit vielen Dezimalstellen, aber wenn ich sie drucke, brauche ich nicht alle. Daher möchte ich ein benutzerdefiniertes Format (z. B. ...
Ist die Verwendung von Maschinen-Epsilon für Gleitkomma-Gleichheitstests geeignet?
Dies ist ein Follow-up zuPrüfung auf Gleitkommawertgleichheit: Gibt es einen Standardnamen für die Konstante ...
Sollen wir Gleitkommazahlen auf Gleichheit mit einem * relativen * Fehler vergleichen?
Bisher habe ich viele Posts gesehen, die sich mit der Gleichheit von Gleitkommazahlen befassen. Die Standardantwort auf eine Frage wie "Wie sollen wir entscheiden, ob x und y gleich sind?" ist abs(x - y) < epsilonwo epsilon ist einFes, kleine ...
Wie deterministisch ist Fließkomma-Ungenauigkeit?
Ich verstehe, dass Gleitkommaberechnungen Genauigkeitsprobleme haben und es viele Fragen gibt, die erklären, warum. Meine Frage ist, ob ich mich immer darauf verlassen kann, wenn ich dieselbe Berechnung zweimal durchführe, um dasselbe Ergebnis zu ...
Dezimalzahl abschneiden nicht abrunden [duplizieren]
Mögliches Duplizieren: c # - Wie runde ich einen Dezimalwert auf 2 Dezimalstellen (für die Ausgabe auf einer Seite) [https://stackoverflow.com/questions/164926/c-sharp-how-do-i-round-a-decimal-value-to-2-decimal-places-for-output-on-a-pa] Ich ...
Cast to Int vs Boden
Gibt es einen Unterschied zwischen diesen: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0);ie ich verstehe, haben beide Fälle das gleiche Ergebnis. Gibt es einen Unterschied im kompilierten Code?
Dezimale Genauigkeit der Schwimmer
äquivalent zu log10 (2 ^ 24) ≈ 7.225 Dezimalstellen Wikipedia [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] Präzision: 7 Stellen MSDN ...