Suchergebnisse für Anfrage "floating-point"

2 die antwort

Warum ist FLT_MIN gleich Null?

limits.h spezifiziert Grenzen für Nicht-Gleitkomma-Mathematiktypen, z.INT_MIN undINT_MAX. Diese Werte sind die negativsten und positivsten Werte, die Sie mit einem int darstellen können. Imfloat.hgibt es Definitionen fürFLT_MIN undFLT_MAX. Wenn ...

4 die antwort

Wie überprüfe ich, ob ein Gleitkommawert innerhalb eines bestimmten Bereichs liegt und eine bestimmte Anzahl von Dezimalstellen hat?

Wie überprüfe ich, ob ein Gleitkommawert innerhalb eines Bereichs (0.50.150.00) liegt und 2 Dezimalstellen hat? Beispielsweise sollte 15.22366 falsch sein (zu viele Dezimalstellen). Aber 15.22 sollte stimmen. Ich habe versucht, etwas ...

11 die antwort

Gleitkomma-gegen-Ganzzahl-Berechnungen auf moderner Hardware

Ich mache einige leistungskritische Arbeit in C ++, und wir verwenden derzeit Ganzzahlberechnungen für Probleme, die von Natur aus Gleitkomma sind, weil "es ist schneller". Dies verursacht eine Menge ärgerlicher Probleme und fügt eine Menge ...

TOP-Veröffentlichungen

1 die antwort

Was sind die möglichen Berechnungen, die ein NaN in Python verursachen könnten? [geschlossen]

Ich habe herumgesucht, und es scheinen verstreute Diskussionen darüber zu seinNaNs in verschiedenen Programmiersprachen, einschließlich einiger spezieller Fälle, aber nichts erschöpfend oder klar. Was sind die häufigsten Operationen, die a ...

6 die antwort

Python, drucken Sie alle Gleitkommazahlen in der Ausgabe auf 2 Dezimalstellen

Ich muss 4 verschiedene Gleitkommazahlen mit zwei Dezimalstellen ausgeben. Das habe ich: print '%.2f' % var1,'kg =','%.2f' % var2,'lb =','%.2f' % var3,'gal =','%.2f' % var4,'l'Was sehr unrein ist und schlecht aussieht. Gibt es eine Möglichkeit, ...

6 die antwort

Wie man das Minuszeichen von der vorzeichenbehafteten Null entfernt

Ich benutze asin, um den Winkel zu berechnen. Der Code ist wie folgt: double FindAngle(const double theValue) { return asin(theValue); }FindAngle gibt -0.0 (vorzeichenbehaftete Null) zurück, wenn das Argument theValue = -0.0 ist. Wie entferne ...

1 die antwort

Wissenschaftliche Notation aus Python Pandas-Aggregationsergebnissen formatieren / unterdrücken

Wie kann man das Format für die Ausgabe einer Groupby-Operation in Pandas ändern, die eine wissenschaftliche Notation für sehr große Zahlen erzeugt? Ich weiß, wie man Zeichenketten in Python formatiert, aber ich bin ratlos, wenn es darum geht, ...

2 die antwort

Indizieren von Float-Werten in Python

Ich habe eine Liste von Floats, die aus einer Datenstruktur generiert wurden, die eine Liste von Wörterbüchern ist - d. H. Ich habe die gesamte Liste durchlaufen und für bestimmte Werte im angegebenen Wörterbuch ausgewählt. Jetzt möchte ich ...

3 die antwort

Wie überprüfe ich, ob die IEEE 754-Gleitkommadarstellung mit einfacher Genauigkeit (32 Bit) verwendet wird?

Ich möchte die folgenden Dinge auf meinem Zielboard testen: Ist 'float' mit einer IEEE 754-Gleitkommavariablen mit einfacher Genauigkeit (32 Bit) implementiert?Wird 'double' mit einer Gleitkommavariablen mit doppelter Genauigkeit (64-Bit) nach ...

1 die antwort

Ist es richtig, ein Double mit Null zu vergleichen, wenn Sie es zuvor mit Null initialisiert haben?

Ich habe gelernt, dass ein doppelter Einsatz zu vergleichen== ist keine weise Praxis. Allerdings habe ich mich gefragt, ob die Überprüfung, ob ein Double initialisiert wurde, gefährlich sein könnte oder nicht. Wenn Sie beispielsweise wissen, dass ...