Suchergebnisse für Anfrage "floating-point"
Wie funktioniert die Moduloperation mit dem Datentyp float?
Ich versuche, eine einfache Moduloperation für den Datentyp float herauszufinden.
Kann jemand dieses seltsame Verhalten mit signierten Floats in C # erklären?
Hier ist das Beispiel mit Kommentaren: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before ...
Wie berechne ich richtig gerundete trigonometrische Funktionen in Grad?
Wie könnte ich trigonometrische Funktionen definieren, die Argumente in Grad anstelle des üblichen Bogenmaßes verwenden und für diese Argumente richtig gerundete Ergebnisse berechnen? Multiplizieren Sie das Argument mitM_PI/180.0 vor der ...
BASH Arithmetische Ausdrücke
Ich hatte in BASH (3.2) verschiedene Methoden für einfache Ganzzahlarithmetik verwendet. Aber ich kann nicht herausfinden, wie ich es am besten (am liebsten) mache. result=`expr 1 + 2` result=$(( 1 + 2 )) let "result = 1 + 2"Was sind ...
Wie wird die Gleitkommagenauigkeit eingestellt?
Ich habe die gleiche Zahl auf zwei Arten berechnet, aber in Zahlen macht es einen Fehler [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]]Diese Zahl ist bis auf e ^ (- 15) ...
Faustregeln zur Minimierung von Gleitkommafehlern in C?
Zum Minimieren des Fehlers bei Gleitkommaoperationen, wenn ich eine Operation wie die folgende in C habe: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b);Ändert sich das Ergebnis der Berechnung, wenn ich die ...
Präzisions- und Clip-Trailing-Nullen festlegen, Exponent jedoch nie drucken
Ich muss einfach: Stellen Sie die Genauigkeit so ein, dass die Floats auf die Hundertstelstelle gerundet werden (0,111 werden als 0,11 gedruckt).Clip mit nachgestellten Nullen (1,0 wird als 1 gedruckt)Niemals einen Exponenten drucken (1000.1 ...
Math.pow liefert je nach Java-Version unterschiedliche Ergebnisse
Ich führe den folgenden Code auf einer JDK-Version 1.7.0_60 aus: System.out.println(Math.pow(1.5476348320352065, (0.3333333333333333)));Das Ergebnis ist: 1.1567055833133086 Ich führe auf einer JDK-Version 1.7.0 genau denselben Code aus. Das ...
Gleitkommatypen mit fester Größe
In demstdint.h (C99),boost / cstdint.hpp [http://www.boost.org/doc/libs/1_42_0/libs/integer/doc/html/boost_integer/cstdint.html] , undcstdint (C ++ 0x) -Header gibt es unter anderem vom Typint32_t. Gibt es ähnliche Gleitkommatypen mit fester ...
Alternativen für die Gleitkommainitialisierung zur Kompilierungszeit
Derzeit arbeite ich an einer Template-Meta-Programmierung zur Implementierung von Gleitkomma-Arithmetik. Die Vorlage, die Float-Werte zur Kompilierungszeit darstellt, sieht wie folgt aus: template<bool S , std::int16_t E , std::uint64_t M> ...