Suchergebnisse für Anfrage "floating-point"
Bei einer Schleife mit float als Zähler, die um 0,01 erhöht wird, werden die erwarteten float-Werte nicht gedruckt. [Duplizieren]
Diese Frage hat hier bereits eine Antwort:Gleitkomma-Ungenauigkeiten 2 AntwortenDie Summe der Schwimmer ist nicht genau [geschlossen] 2 Antworten
Fließkomma-Gleichheitstest und zusätzliche Präzision: Kann dieser Code fehlschlagen?
Die Diskussion begann untermeine antwort auf eine andere frage. Der folgende Code bestimmtMaschine epsilon:
Der Microsoft ACE-Treiber ändert die Gleitkommapräzision im Rest meines Programms
Ich habe ein Problem, bei dem es den Anschein hat, dass sich die Ergebnisse einiger Berechnungen ändern, nachdem ich das verwendet habeMicrosoft ACE-Treiber ...
Details zur Implementierung der Gleitkommadivisionshardware
Ich versuche, einen 32-Bit-Fließkomma-Hardwareteiler in Hardware zu implementieren, und frage mich, ob ich Vorschläge zu Kompromissen zwischen verschiedenen ...
Beim Umkehren der FFT werden nicht die genauen Daten abgerufen
Okay, was ich versuche zu erreichen, ist einfach. Wenden Sie FFT auf einige zufällige Daten an und wenden Sie dann den umgekehrten Algorithmus auf die Ausgab...
So beheben Sie diesen Gleitkomma-Quadratwurzel-Algorithmus
Ich versuche, die IEEE-754-32-Bit-Gleitkomma-Quadratwurzel verschiedener Eingaben zu berechnen, aber für eine bestimmte Eingabe wird der auf der Newton-Raphs...
Was ist der Unterschied zwischen leisem NaN und signalisierendem NaN?
Ich habe über Gleitkommazahlen gelesen und verstehe, dass NaN aus Operationen resultieren kann. aber ich kann nicht genau verstehen, was diese Konzepte sind....