Suchergebnisse für Anfrage "floating-point"
Spezifikation des Excel-Gleitkomma-Verhaltens
Excel verwendet zwar das Standardformat IEEE754 binary64, verwendet jedoch nicht dieselben Regeln für Arithmetik und Vergleiche, z. B. =0.1+0.2=0.3RückkehrTRUE, undander [https://stackoverflow.com/q/36452194/392585] ...
Warum ergibt 5/2 auch dann '2', wenn ich einen Schwimmer benutze? [Duplikat
Diese Frage hat hier bereits eine Antwort: Was ist das Verhalten der Ganzzahldivision? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 AntwortenIch habe den folgenden Code eingegeben (und hatte keine Kompilierungsprobleme ...
Was ist Überlauf und Unterlauf im Gleitkomma
Ich glaube, ich verstehe das Konzept von @ nicht wirklioverflow undunderflow. Ich stelle diese Frage, um dies zu klären. Ich muss es auf seiner grundlegendsten Ebene mit Bits verstehen. Arbeiten wir mit der vereinfachten Gleitkommadarstellung ...
Determinismus bei Tensorflow-Gradientenaktualisierungen?
So habe ich ein sehr einfaches NN-Skript in Tensorflow geschrieben, und es fällt mir schwer, herauszufinden, woher etwas "Zufälliges" kommt. Ich habe das @ aufgenomm Gewichte, Farbverläufe, Logits meines Netzwerks, während ich trainiere, und ...
Warum erhalte ich eine Fehlermeldung beim Hinzufügen einer Ganzzahl zu einem Gleitkomma?
Ich habe angefangen Rust zu lernen. Ich habe dieses Programm ausprobiert: fn main() { let a = 5; let b = 5.5; let k = a + b; println!("{}", k); }und es zeigt diesen Fehler: error[E0277]: cannot add a float to an integer --> src/main.rs:4:16 | 4 ...
struct.unpack (struct.pack (float)) hat einen Rundungsfehler?
Wenn ich meine Bibliothek teste,Konstruiere [https://github.com/construct/construct], Ich habe herausgefunden, dass Tests fehlschlagen, wenn Zahlen erstellt und dann wieder in einen Float umgewandelt werden. Sollten Floats nicht genau wie ...
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...
Ist es in Ordnung, Gleitkommazahlen ohne epsilon mit 0.0 zu vergleichen?
Ich bin mir bewusst, dass man zum Vergleichen von zwei Gleitkommawerten etwas Epsilon-Genauigkeit verwenden muss, da diese nicht genau sind. Ich frage mich jedoch, ob es Randfälle gibt, in denen ich dieses Epsilon nicht benötige. Insbesondere ...
Wechsel der "Endianness" von Floats und Doubles
Ich möchte die "Endianness" von float und double Werten umschalten, es funktioniert in Ordnung, indem ich so etwas mache wie: float const v{1.f}; swap(reinterpret_cast<::std::uint32_t const&>(v)); Gibt es eine bessere Möglichkeit, den Tausch ...
'is' Operator verhält sich unerwartet mit floats
Ich bin beim Testen eines Moduls auf ein verwirrendes Problem gestoßen. Das Modul wandelt tatsächlich Werte um und ich möchte diese Werte vergleichen. Es gibt einen Unterschied zu== undis (zum Teil bin ich auf der Hut vor dem Unterschied) >>> ...