Schwimmerpräzision in Rubin

Question

Sep 22, 2012, 09:50 AM

Ich schreibe ein Ruby-Programm, das Floats verwendet. Ich habe Probleme mit der Präzision. Zum Beispiel

1.9.3p194 :013 > 113.0 * 0.01
# => 1.1300000000000001

und deshalb

1.9.3p194 :018 > 113 * 0.01 == 1.13
# => false

Dies ist genau die Art von Berechnung, die meine App benötigt, um richtig zu sein.

Wird das erwartet? Wie soll ich damit umgehen?

Antworten auf die Frage(2)

Gradle - Hinzufügen eines bedingten Klassenpfads in Buildscript-Abhängigkeiten

Kurzschlussauswertung wie Pythons "und" beim Speichern der Prüfergebnisse

Warum wird dieses Symbol in Chrome und nicht in Firefox oder Edge angezeigt?

Alternative zu Git Rebase

Wie fange ich SSL-Ausnahmen auf einem Mono HTTPListener-Server ab?