Schwimmerpräzision in Rubin

Question

Sep 22, 2012, 09:50 AM

Ich schreibe ein Ruby-Programm, das Floats verwendet. Ich habe Probleme mit der Präzision. Zum Beispiel

1.9.3p194 :013 > 113.0 * 0.01
# => 1.1300000000000001

und deshalb

1.9.3p194 :018 > 113 * 0.01 == 1.13
# => false

Dies ist genau die Art von Berechnung, die meine App benötigt, um richtig zu sein.

Wird das erwartet? Wie soll ich damit umgehen?

Antworten auf die Frage(2)

Set Schriftfamilie in TVML

Appending dynamisch generierte HTML mit jQuery spielt nicht gut mit Fancybox

Was gibt JPA EntityManager.getSingleResult () für eine COUNT-Abfrage zurück?

Ionic 2 Slides Component - So greifen Sie auf die Swiper API zu

Lade FreeMarker-Vorlagen aus der Datenbank