Suchergebnisse für Anfrage "floating-point"
Gleitkommamultiplikation vs wiederholte Addition
LassenN ist eine vorzeichenlose Ganzzahl zur Kompilierungszeit. GCC kann optimieren unsigned sum = 0; for(unsigned i=0; i<N; i++) sum += a; // a is an unsigned integer einfacha*N. Dies kann verstanden werden, da modulare Arithmetik @ sa(a%k + ...
Go: Konvertieren von float64 in int mit dem Multiplikator
Ich möchte ein @ konvertierfloat64 Nummer, lass es uns sagen1.003 zu1003 (ganzzahliger Typ). Meine Implementierung ist einfach multiplizieren Sie diefloat64 mit1000 und wirf es aufint. package main import "fmt" func main() { var f float64 = ...
Warum optimiert Clang x * 1.0, aber NICHT x + 0.0?
Warum optimiert Clang die Schleife in diesem Code? #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) ...
Javascript: Zwei Float-Werte vergleichen
Ich habe diese JavaScript-Funktion: Contrl.prototype.EvaluateStatement = function(acVal, cfVal) { var cv = parseFloat(cfVal).toFixed(2); var av = parseFloat(acVal).toFixed(2); if( av < cv) // do some thing }Wenn ich Gleitkommazahlen ...
Mathematische Erklärung, warum die Konvertierung von Decimal nach Double unterbrochen ist und Decimal.GetHashCode gleiche Instanzen trennt
Ich bin mir nicht sicher, ob diese nicht standardmäßige Art, eine Stapelüberlauf-Frage zu stellen, gut oder schlecht ist, aber hier geht es weiter: Was ist die beste (mathematische oder anderweitig technische) Erklärung, warum der Code: static ...
Ist `x! = X` ein portabler Weg, um auf NaN zu testen?
In C können Sie mit @ testen, ob ein double if NaN vorliegisnan(x). Es sind jedoch viele Orte online, einschließlich zum Beispiel dieses SO antworte [https://stackoverflow.com/a/1923933/2179021] sag, dass du einfach @ benutzen kannx!=x ...
Floating Point Präzision und Gleichheit in Java
Es ist bekannt, dass Gleitkommazahlen, auch solche mit festen Nachkommastellen im Dezimalformat, nicht exakt dargestellt werden können. Also ich habe folgendes Programm zum testen: public class Main { public static void main(String[] args) ...
wie viele ganze Zahlen in IEEE 754
Ich versuche herauszufinden, wie viele verschiedene ganze Zahlen im ieee 754 existieren. Die Zahl, die ich erhielt, war 1778384895, aber ich konnte keine Ressource finden, um mich selbst zu überprüfen. Vielen Dank im Voraus
Gleitkommapräzision begrenzen?
Gibt es eine Möglichkeit, Gleitkommazahlen auf 2 Punkte abzurunden? Z.B.:3576.7675745342556 wird3576.76.
PHP unerwartetes Ergebnis von float to int Typ cast
Ich versuche, einen float in einen int-Wert in PHP umzuwandeln: var_dump((int)(39.3 * 100.0)); //Returns 3929 but should be 3930! var_dump((int)(39.2 * 100.0)); //Returns 3920Ich kann ceil verwenden, um es zum Laufen zu bringen, aber kann mir ...