Suchergebnisse für Anfrage "floating-point"
Welche Verwendung haben NaN-Nutzdaten mit Gleitkommazahlen?
Ich weiß, dass IEEE 754 NaNs so definiert, dass sie die folgende bitweise Darstellung haben: Das Vorzeichenbit kann entweder @ se0 oder1 Das Exponentenfeld enthält alle1 bitsEinige Bits der Mantisse werden verwendet, um anzugeben, ob es sich um ...
Wie erstelle ich einen zufälligen Float in Objective-C?
Ich versuche, in Objective-C einen zufälligen Gleitkommawert zwischen 0,15 und 0,3 zu erstellen. Der folgende Code gibt immer 1 zurück: int randn = (random() % 15)+15; float pscale = (float)randn / 100;Was mache ich falsch
Serialize double und float mit C
Wie kann ich Doubles und Floats in C serialisieren? Ich verwende den folgenden Code zum Serialisieren von Kurz- und Zeichenfolgen. unsigned char * serialize_char(unsigned char *buffer, char value) { buffer[0] = value; return buffer + 1; } ...
Double vs. BigDecimal?
Ich muss einige Gleitkommavariablen berechnen und mein Kollege schlägt mir vor, @ zu verwendBigDecimal Anstatt vondouble da wird es genauer. Aber ich möchte wissen, was es ist und wie ich das Beste aus @ herausholen kanBigDecimal?
Warum führt das Hinzufügen von zwei Dezimalstellen in Javascript zu einem falschen Ergebnis? [Duplikat
Mögliches Duplizieren: Ist JavaScripts Mathematik kaputt? [https://stackoverflow.com/questions/588004/is-javascripts-math-broken] Warum vermasselt JS diese einfache Rechnung? document.write(.1 + .2) // 0.3000000000000004 document.write(.3 + ...
Wie wird 0.1 in Gleitkomma-Arithmetik und Dezimalzahl dargestellt?
ch versuche, Fließkomma-Arithmetik besser zu verstehen, und habe einige Links zu "Was jeder Informatiker über Fließkomma-Arithmetik wissen sollte" gesehe Ich verstehe immer noch nicht, wie eine Zahl wie0.1 oder0.5 wird in Floats und als ...
Objective-C - Schwimmerprüfung auf nan
Ich habe eine Variable float slope) die manchmal den Wert nan haben, wenn sie ausgedruckt werden, da es manchmal zu einer Division durch 0 kommt. Ich versuche, ein Wenn-Sonst zu machen, wenn das passiert. Wie kann ich das machen?if (slope == ...
Vermeiden Sie das Einfügen eines Exponentialwerts in die DB Float-Spalte
Ich habe einen Tisch wie CONTACT Name Null Type ------------------------------ -------- ----------- CONTACT_ID NOT NULL NUMBER NAME NOT NULL VARCHAR2(45) EMAIL NOT NULL VARCHAR2(45) ADDRESS NOT NULL VARCHAR2(45) TELEPHONE NOT NULL ...
Numpy: Überprüfen Sie, ob das Float-Array ganze Zahlen enthält
n Python kann überprüft werden, ob einfloat enthält einen ganzzahligen Wert mitn.is_integer(), basierend auf dieser QA:Wie überprüfe ich, ob ein Gleitkommawert eine ganze Zahl ...
C: double in float konvertieren, wobei die Genauigkeit des Dezimalpunkts erhalten bleibt
i wollte double in float umwandeln, aber den Dezimalpunkt möglichst genau beibehalten, ohne Änderungen vorzunehmen ... Zum Beispiel sagen wir, ich habe double d = 0.1108; double dd = 639728.170000; double ddd = 345.2345678 Jetzt korrigiere ...