Suchergebnisse für Anfrage "floating-point"
Determinismus bei Tensorflow-Gradientenaktualisierungen?
So habe ich ein sehr einfaches NN-Skript in Tensorflow geschrieben, und es fällt mir schwer, herauszufinden, woher etwas "Zufälliges" kommt. Ich habe das @ aufgenomm Gewichte, Farbverläufe, Logits meines Netzwerks, während ich trainiere, und ...
Gleitkomma-Gleichheit testen
Gibt es eine Funktion zum Testen der Gleitkomma-Gleichheit in Python? Etwas wie def approx_equal(a, b, tol): return abs(a - b) < tolMein Anwendungsfall ähnelt der Definition von @ in der C ++ - Testbibliothek von Google, ...
Spezifikation des Excel-Gleitkomma-Verhaltens
Excel verwendet zwar das Standardformat IEEE754 binary64, verwendet jedoch nicht dieselben Regeln für Arithmetik und Vergleiche, z. B. =0.1+0.2=0.3RückkehrTRUE, undander [https://stackoverflow.com/q/36452194/392585] ...
Was ist Überlauf und Unterlauf im Gleitkomma
Ich glaube, ich verstehe das Konzept von @ nicht wirklioverflow undunderflow. Ich stelle diese Frage, um dies zu klären. Ich muss es auf seiner grundlegendsten Ebene mit Bits verstehen. Arbeiten wir mit der vereinfachten Gleitkommadarstellung ...
Warum ergibt 5/2 auch dann '2', wenn ich einen Schwimmer benutze? [Duplikat
Diese Frage hat hier bereits eine Antwort: Was ist das Verhalten der Ganzzahldivision? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 AntwortenIch habe den folgenden Code eingegeben (und hatte keine Kompilierungsprobleme ...
Rundungsproblem mit doppeltem Typ [duplizieren]
Mögliches Duplizieren: Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse? [https://stackoverflow.com/questions/3892908/why-dont-operations-on-double-precision-values-give-expected-results] Ich habe ein ...