Suchergebnisse für Anfrage "floating-point"
Wie fasst man am besten viele Gleitkommazahlen zusammen?
Stellen Sie sich vor, Sie haben eine große Anzahl von Gleitkommazahlen aller Größen. Was ist der korrekteste Weg, um die Summe mit dem geringsten Fehler zu berechnen? Wenn das Array beispielsweise wie folgt aussieht: [1.0, 1e-10, 1e-10, ... ...
Warum wird "0f" in C ++ nicht als Gleitkomma-Literal behandelt?
Warum ist nicht0f in C ++ als Gleitkomma-Literal behandelt? #include <iostream> using namespace std; int main(){ cout << 0f << endl; return 0; } Compiling das oben gibt mir C2509 (Syntaxfehler: 'Ungültiges Suffix für Nummer') using VS2008.
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...
Probleme im Gleitkommavergleich [duplizieren]
Diese Frage hat hier bereits eine Antwort: seltsame Ausgabe im Vergleich von float mit float-Literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 answersvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...
struct.unpack (struct.pack (float)) hat einen Rundungsfehler?
Wenn ich meine Bibliothek teste,Konstruiere [https://github.com/construct/construct], Ich habe herausgefunden, dass Tests fehlschlagen, wenn Zahlen erstellt und dann wieder in einen Float umgewandelt werden. Sollten Floats nicht genau wie ...
Wie konvertiere ich float number in Binary?
Kann mir jemand sagen, wie ich diese Gleitkommazahl umwandeln kann: 12.25 in binär? Ich weiß, wie man die "12" konvertiert, aber nicht die 0,25 Jede Hilfe wird sehr geschätzt. Vielen Dan
Warum erhalte ich eine Fehlermeldung beim Hinzufügen einer Ganzzahl zu einem Gleitkomma?
Ich habe angefangen Rust zu lernen. Ich habe dieses Programm ausprobiert: fn main() { let a = 5; let b = 5.5; let k = a + b; println!("{}", k); }und es zeigt diesen Fehler: error[E0277]: cannot add a float to an integer --> src/main.rs:4:16 | 4 ...
Vergleich von float und double Variablen [duplicate]
Mögliche Duplikate: Differenz zwischen float und double [https://stackoverflow.com/questions/2386772/difference-between-float-and-double] seltsame Ausgabe im Vergleich von float mit ...
C # -String in Float-Konvertierung
Ich muss einen String in einen Float konvertieren. Dies ist meine Beispielzeichenfolge: 1 MW +00000,00 mm 2 MW +0000.000 mm 3 MW -00000,01 mm 4 MW +00000,00 mm 5 MW +00002,92 mm 6 MW +00002,69 mm Und das ist was ich tue: text = ...
C Compiler Bug (Gleitkomma-Arithmetik)?
#include<stdio.h> int main() { double fract=0; int tmp; //scanf("%lf",&fract); fract=0.312; printf("%lf",fract); printf("\n\n"); while(fract>0){ fract*=(double)10; printf("%d ",(int)fract); fract-=(int)fract; } getch(); return 0; }dieser Code ...