float number ist nicht die erwartete Zahl nach der Subtraktion

Question

Nov 07, 2012, 06:32 AM

Ich habe folgende Aussage:

float diff = tempVal - m_constraint.getMinVal();

tempVal wird als float deklariert und diegetMinVal() Gibt einen Gleitkommawert zurück.

Ich habe den folgenden Ausdruck:

diff = 0.099999905, tempVal = 5.1, m_constraint.getMinVal () = 5.0

Ich erwarte dasdiff ist0,1 aber nicht die obige Nummer. wie geht das?

Antworten auf die Frage(4)

R's data.table Bits abschneiden?

Warum ist der Integer-Parameter der Java-Methode auf Int und nicht auf den Plattformtyp abgebildet?

Occasional ctypes Fehler beim Importieren von Numpy aus mod_wsgi django app

Wenn ich auf meinem Controller poste, sind alle Werte für mein Modell null

Auffüllen einer static / const mit einer Umgebungsvariablen zur Laufzeit in Rust