Suchergebnisse für Anfrage "floating-point"
Endless for Schleife mit float
Betrachten Sie den folgenden Code: for (float i = 0f; i < int.MaxValue; i++) { // Some code }Welche soll von @ loope0 zuint.MaxValue (2 31 -1), aber das tut es nicht. Einmali erreichte 2 24, i++ funktioniert nicht mehr aus einem Grund, den ich ...
Was ist das Verhalten beim Konvertieren eines negativen Gleitkommawerts in ein vorzeichenloses int?
Was passiert, wenn ein negativer Gleitkommawert in einen Wert ohne Vorzeichen umgewandelt wird? Standardzitate werden gebeten. Das Problem, vor dem ich stehe, ist die Konvertierung in Werte von vorzeichenlosen Integraltypen aus ...
Warum rundet Excel nicht gemäß 8-Byte-IEEE 754
Der folgende Ausdruck ergibtfalse in C #: (1 + 1 + 0.85) / 3 <= 0.95Und ich nehme an, dass dies in den meisten anderen Programmiersprachen der Fall ist, die IEEE 754 implementieren, da(1 + 1 + 0.85) / 3 ergibt0.95000000000000007, das größer als ...
Wie kann ich einen Gleitkommawert aus einer Binärdatei in der Shell drucken?
Ich habe eine Binärdatei bestehend aus einem doppelten Float-Wert (8 Bytes) oder einem einfachen Float-Wert (4 Bytes), der auf folgende Weise generiert wurde: $ python -c $'from struct import pack\nwith open("file.bin", "wb") as ...
Wie runde ich diese Binärzahl auf die nächste Gerade
Ich habe diese binäre Darstellung von0.1: 0.00011001100110011001100110011001100110011001100110011001100110Ich muss es auf den nächsten runden, um es im Gleitkomma mit doppelter Genauigkeit speichern zu können. Ich kann anscheinend nicht ...
Arithmetische Präzision mit Doppel in Matlab
Ich habe ein wenig Probleme zu verstehen, wie sich die Genauigkeit dieser Doppeln auf das Ergebnis von arithmetischen Operationen in Matlab auswirkt. Ich dachte, da beide a & b doppelt sind, könnten sie Operationen mit dieser Genauigkeit ...
Warum optimiert GCC nicht a * a * a * a * a zu (a * a * a) * (a * a * a)?
Ich optimiere eine wissenschaftliche Anwendung numerisch. Eine Sache, die mir aufgefallen ist, ist, dass GCC den Anruf optimieren wirdpow(a,2) durch Kompilieren ina*a, aber der Anrufpow(a,6) ist nicht optimiert und ruft die Bibliotheksfunktion ...
In Python neigen kleine Schwimmer zu Null
Ich habe einen Bayes-Klassifikator in Python programmiert. Das Problem ist, dass ich beim Multiplizieren der Feature-Wahrscheinlichkeiten SEHR kleine Float-Werte wie 2.5e-320 oder ähnliches erhalte und plötzlich zu 0.0 wird. Die 0.0 ist für mich ...
Wie kann System.Decimal in Protokollpuffern am besten dargestellt werden?
Folgen auf vonDie [https://stackoverflow.com/questions/371418/can-you-represent-csv-data-in-googles-protocol-buffer-format] Frage, was wäre der beste Weg, um ein System.Decimal-Objekt in einem Protokollpuffer darzustellen?
Warum wird Double oder Float nicht zur Darstellung von Währungen verwendet?
Ich habe immer gesagt,noch ni um Geld mit @ darzustelldouble oderfloat Arten, und dieses Mal stelle ich die Frage an Sie: warum? Ich bin sicher, es gibt einen sehr guten Grund, ich weiß einfach nicht, was es ist.