Suchergebnisse für Anfrage "floating-point-precision"

1 die antwort

epsilon für verschiedene float-werte

Es gibt

6 die antwort

nächsthöhere / niedrigere IEEE-Doppelgenauigkeitszahl

2 die antwort

Wie mache ich es, dass Zahlen nicht in wissenschaftlicher Form gezeigt werden?

TOP-Veröffentlichungen

4 die antwort

Python: Index des minimalen Elements in der Float-Liste suchen [duplizieren]

Diese Frage hat hier bereits eine Antwort:Abrufen des Index des zurückgegebenen maximalen oder minimalen Elements mithilfe von max () / min () in einer Liste...

3 die antwort

Java - maximaler Genauigkeitsverlust bei einer doppelten Addition / Subtraktion

1 die antwort

Warum verliert die Verwendung von Modulo für nicht ganzzahlige Werte die Gleitkommagenauigkeit? [Duplikat]

6 die antwort

C ++ So vermeiden Sie Gleitkomma-Rechenfehler

5 die antwort

Fehler beim gemeinsamen Verwenden von (int) und (double) zum Abschneiden von Dezimalstellen

Wenn ich (int) mit (double) verwende, funktioniert es manchmal nicht richtig.Schauen Sie sich das PHP-Codebeispiel an:Ich muss 2 Dezimalstellen VERLASSEN und...

2 die antwort

Holen Sie sich die nächstkleinere Double-Nummer

Im Rahmen eines Unit-Tests muss ich einige Randbedingungen testen. Eine Methode akzeptiert a

4 die antwort

Besteht das Risiko, Float-Variablen als Schleifenzähler und deren Teilinkrementierung / -dekrementierung für Bedingungen zu verwenden, die nicht "==" sind?