Schwimmerpräzision in Rubin

Question

Sep 22, 2012, 09:50 AM

Ich schreibe ein Ruby-Programm, das Floats verwendet. Ich habe Probleme mit der Präzision. Zum Beispiel

1.9.3p194 :013 > 113.0 * 0.01
# => 1.1300000000000001

und deshalb

1.9.3p194 :018 > 113 * 0.01 == 1.13
# => false

Dies ist genau die Art von Berechnung, die meine App benötigt, um richtig zu sein.

Wird das erwartet? Wie soll ich damit umgehen?

Antworten auf die Frage(2)

So ändern Sie Java Cardlayout aus einer anderen separaten Klasse

Der beste Weg, um das berührte Objekt (das sich bewegt) aus der Sammlung in libgdx zu erkennen

Wie lösche ich Tkinter Widgets aus einem Fenster?

Div und textarea verhalten sich bis auf Firefox gleich - was tun?

Vermeiden Sie Doctrine, um alle Entitäten zurückzugeben