Schwimmerpräzision in Rubin

Question

Sep 22, 2012, 09:50 AM

Ich schreibe ein Ruby-Programm, das Floats verwendet. Ich habe Probleme mit der Präzision. Zum Beispiel

1.9.3p194 :013 > 113.0 * 0.01
# => 1.1300000000000001

und deshalb

1.9.3p194 :018 > 113 * 0.01 == 1.13
# => false

Dies ist genau die Art von Berechnung, die meine App benötigt, um richtig zu sein.

Wird das erwartet? Wie soll ich damit umgehen?

Antworten auf die Frage(2)

Wie mache ich Group By Rollup in R? (Wie SQL)

Erstellen einer square () -Funktion ohne x * x in C ++

So rufen Sie aktuelle Details zum wiedergegebenen Titel vom MediaPlayer ab

Einfach gleich hohe Tauchgänge ohne JavaScript möglich?

Backand.signup () - "Create My App User" konnte nicht ausgeführt werden