Suchergebnisse für Anfrage "floating-point"
Das Skalarprodukt zweier Gleitkomma-Vektoren mit einfacher Genauigkeit liefert im CUDA-Kernel andere Ergebnisse als auf dem Host
Während des Debuggens von CUDA-Code habe ich mit äquivalentem CPU-Code verglichen
Warum weigert sich AWK, Schwimmer zusammenzufassen?
Ich stehe vor einem ziemlich seltsamen Problem mit
Wie kann ein 4 Byte großer Wert von 3.4e38 speichern
Wie bei 32-Bit können wir nur 2 ^ 32-Bit-Daten speichern. Wie können wir in der Sprache C einen so großen Wert 3.4e38 speichern? Ich kann den Mechanismus dah...
Wissenschaftliche Notation aus Python Pandas-Aggregationsergebnissen formatieren / unterdrücken
Wie kann man das Format für die Ausgabe einer Groupby-Operation in Pandas ändern, die eine wissenschaftliche Notation für sehr große Zahlen erzeugt? Ich weiß, wie man Zeichenketten in Python formatiert, aber ich bin ratlos, wenn es darum geht, ...
Ist es richtig, ein Double mit Null zu vergleichen, wenn Sie es zuvor mit Null initialisiert haben?
Ich habe gelernt, dass ein doppelter Einsatz zu vergleichen== ist keine weise Praxis. Allerdings habe ich mich gefragt, ob die Überprüfung, ob ein Double initialisiert wurde, gefährlich sein könnte oder nicht. Wenn Sie beispielsweise wissen, dass ...
Ist 3 * x + x immer genau?
Unter der Annahme von strikter IEEE 754 (keine übermäßige Genauigkeit) und gerundet auf den nächsten geraden Modus ist3*x+x immer ==4*x (und somit genau bei fehlendem Überlauf) und warum? Ich war nicht in der Lage, ein Gegenbeispiel vorzulegen, ...
Konvertieren von Gleitkommazahlen nach IEEE 754 mithilfe von Assembly
Können Sie mir bitte helfen, Fließkommazahlen mithilfe von Assembly in IEEE 754 umzuwandeln? Ich habe diese Zahl -1.75 und ich weiß, dass es äqula zu -1.11000000000000000000000 E + 0 auf IEEE754 ist, aber ich weiß nicht, wie man das Konvertieren ...