Suchergebnisse für Anfrage "precision"
PHP - Floating Number Precision [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answers$a = '35'; $b = '-34.99'; echo ($a + $b);Ergebnisse in 0.009999999999998 Was ist damit los? Ich fragte ...
Was ist die Genauigkeit von Gleitkommaberechnungen in Scilab?
Hinweis: Ich habe das Matlab-Tag verwendet, nur für den Fall, dass sie die gleiche Präzision beibehalten. (Soweit ich weiß, sind sich beide Programme sehr ähnlich.) Als Follow-up zu einer früheren Frage von mir ...
Warum ist 'Infinity' in Erlang's Floats nicht erlaubt?
Erlang (und damit Elixir) unterstützt Gleitkommazahlen. Einige mögliche Schwimmer: 1.23451.0e101.0e-42Erlang unterstützt NaN nan. in Erlang) (Ich bin jedoch noch nicht auf der Suche nach einer Methode, die @ ausgibnan selbst). rlang ...
Erhöhen Sie die Zufallszahlengenerierung in MATLAB
Gibt es eine Möglichkeit, Pseudozufallszahlen mit geringerer Genauigkeit zu generieren und damit den Prozess zu beschleunigen? Eine andere Sache ist, dass ich weiß, dass es Zeit spart, wenn Zufallszahlen auf einmal generiert werden (z. ...
Wie fasst man am besten viele Gleitkommazahlen zusammen?
Stellen Sie sich vor, Sie haben eine große Anzahl von Gleitkommazahlen aller Größen. Was ist der korrekteste Weg, um die Summe mit dem geringsten Fehler zu berechnen? Wenn das Array beispielsweise wie folgt aussieht: [1.0, 1e-10, 1e-10, ... ...
Determinismus bei Tensorflow-Gradientenaktualisierungen?
So habe ich ein sehr einfaches NN-Skript in Tensorflow geschrieben, und es fällt mir schwer, herauszufinden, woher etwas "Zufälliges" kommt. Ich habe das @ aufgenomm Gewichte, Farbverläufe, Logits meines Netzwerks, während ich trainiere, und ...
Warum ergibt 5/2 auch dann '2', wenn ich einen Schwimmer benutze? [Duplikat
Diese Frage hat hier bereits eine Antwort: Was ist das Verhalten der Ganzzahldivision? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 AntwortenIch habe den folgenden Code eingegeben (und hatte keine Kompilierungsprobleme ...