Suchergebnisse für Anfrage "floating-point"
Umwandlung von IEEE 754 vom Bitstrom in Float in JavaScript
Ich habe 32-Bit-Gleitkommazahlen mithilfe der GO-Sprachfunktion serialisiert math.Float32bits [https://golang.org/pkg/math/#Float32bits]) gibt die Gleitkommazahl zurück, die der IEEE 754-Binärdarstellung entspricht. Diese Nummer wird dann als ...
PHP - Floating Number Precision [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answers$a = '35'; $b = '-34.99'; echo ($a + $b);Ergebnisse in 0.009999999999998 Was ist damit los? Ich fragte ...
Was ist die Genauigkeit von Gleitkommaberechnungen in Scilab?
Hinweis: Ich habe das Matlab-Tag verwendet, nur für den Fall, dass sie die gleiche Präzision beibehalten. (Soweit ich weiß, sind sich beide Programme sehr ähnlich.) Als Follow-up zu einer früheren Frage von mir ...
Welche ist die erste Ganzzahl, die ein IEEE 754-Float nicht genau darstellen kann?
Aus Gründen der Klarheit, wenn ich eine Sprache verwende, die IEE 754-Floats implementiert, und ich erkläre: float f0 = 0.f; float f1 = 1.f; ... und dann drucke sie wieder aus, ich bekomme 0,0000 und 1,0000 - genau. Aber IEEE 754 kann nicht ...
Wie analysiere ich einen String in einem Float oder Int in Python?
ie kann ich in Python einen numerischen String wie @ analysiere"545.2222" auf den entsprechenden Gleitkommawert,545.2222? Oder analysieren Sie den String"31" zu einer ganzen Zahl,31? Ich möchte nur wissen, wie man ein @ parschwebe str zu ...
Warum ist 'Infinity' in Erlang's Floats nicht erlaubt?
Erlang (und damit Elixir) unterstützt Gleitkommazahlen. Einige mögliche Schwimmer: 1.23451.0e101.0e-42Erlang unterstützt NaN nan. in Erlang) (Ich bin jedoch noch nicht auf der Suche nach einer Methode, die @ ausgibnan selbst). rlang ...
In welchem Segment liegt eine bestimmte Zahl? [Duplikat
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answersngenommen, Sie habenn (Integer) zusammenhängende Segmente der Längel (Gleitkomma). Das ist Segment 0 = [0, ...
Rundenfunktion (Arbeitsblatt eins) in Excel
Wenn Sie dies in Excel 2013 in zwei Zellen eingeben, erhalten Sie unterschiedliche Ergebnisse. =ROUND((10.45-10.00)/1,1) = 0.4abe =ROUND(0.45/1,1) = 0.5Und ich habe keine Ahnung warum das der Fall ist. Hat jemand eine Erklärung?
Gleitkommawerte verdoppeln und dividieren
Ich habe die Funktion, von der ich glaube, dass sie ein int in einen Gleitkommawert umwandelt, der in die Komponenten Vorzeichenexponent und Bruch des Werts aufgeteilt wird. Verwendung von IEEE 754 zur Darstellung von Float-Werten. ...
Floating Point Vergleichsfunktionen für C #
Kann jemand auf einige gute allgemeine Gleitkomma-Vergleichsfunktionen in C # hinweisen (oder diese anzeigen), um Gleitkommawerte zu vergleichen? Ich möchte Funktionen für @ implementierIsEqual, IsGreater einIsLess. Mir geht es auch nur wirklich ...