Suchergebnisse für Anfrage "floating-point"

1 die antwort

Bei einer Schleife mit float als Zähler, die um 0,01 erhöht wird, werden die erwarteten float-Werte nicht gedruckt. [Duplizieren]

Diese Frage hat hier bereits eine Antwort:Gleitkomma-Ungenauigkeiten 2 AntwortenDie Summe der Schwimmer ist nicht genau [geschlossen] 2 Antworten

1 die antwort

Fließkomma-Gleichheitstest und zusätzliche Präzision: Kann dieser Code fehlschlagen?

Die Diskussion begann untermeine antwort auf eine andere frage. Der folgende Code bestimmtMaschine epsilon:

1 die antwort

Nicht übereinstimmende Datentypen in fortran

TOP-Veröffentlichungen

1 die antwort

Der Microsoft ACE-Treiber ändert die Gleitkommapräzision im Rest meines Programms

Ich habe ein Problem, bei dem es den Anschein hat, dass sich die Ergebnisse einiger Berechnungen ändern, nachdem ich das verwendet habeMicrosoft ACE-Treiber ...

1 die antwort

Reicht die Angabe des Gleitkommatyps aus, um dieselben Ergebnisse zu gewährleisten?

1 die antwort

Details zur Implementierung der Gleitkommadivisionshardware

Ich versuche, einen 32-Bit-Fließkomma-Hardwareteiler in Hardware zu implementieren, und frage mich, ob ich Vorschläge zu Kompromissen zwischen verschiedenen ...

1 die antwort

Maximale Anzahl von Dezimalstellen, die sich auf ein Double auswirken können

1 die antwort

Beim Umkehren der FFT werden nicht die genauen Daten abgerufen

Okay, was ich versuche zu erreichen, ist einfach. Wenden Sie FFT auf einige zufällige Daten an und wenden Sie dann den umgekehrten Algorithmus auf die Ausgab...

1 die antwort

So beheben Sie diesen Gleitkomma-Quadratwurzel-Algorithmus

Ich versuche, die IEEE-754-32-Bit-Gleitkomma-Quadratwurzel verschiedener Eingaben zu berechnen, aber für eine bestimmte Eingabe wird der auf der Newton-Raphs...

1 die antwort

Was ist der Unterschied zwischen leisem NaN und signalisierendem NaN?

Ich habe über Gleitkommazahlen gelesen und verstehe, dass NaN aus Operationen resultieren kann. aber ich kann nicht genau verstehen, was diese Konzepte sind....