Printf-Breitenspezifizierer, um die Genauigkeit des Gleitkommawerts beizubehalten

Fehler beim gemeinsamen Verwenden von (int) und (double) zum Abschneiden von Dezimalstellen

Wenn ich (int) mit (double) verwende, funktioniert es manchmal nicht richtig.Schauen Sie sich das PHP-Codebeispiel an:Ich muss 2 Dezimalstellen VERLASSEN und...

Wie vermeide ich Gleitkommafehler?

Ist Gleitkommapräzision veränderbar oder unveränderlich?

Ich erhalte immer wieder gemischte Antworten, ob Gleitkommazahlen (d. H.float, double, oderlong double) einen und nur einen Genauigkeitswert haben oder einen Genauigkeitswert haben, der variieren kann. Ein Thema namensfloat vs. double ...

einfache Gleitkommazahlen verlieren an Genauigkeit

Ich verwende Delphi XE2 Update 3. Es gibt Präzisionsprobleme mit selbst den einfachsten Gleitkommazahlen (wie3.7). Mit diesem Code (eine 32-Bit-Konsolen-App): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses System.SysUtils; var s: Single; ...

C ++ So vermeiden Sie Gleitkomma-Rechenfehler

Wie breitet sich ein Gleitkomma-Fehler aus, wenn mathematische Operationen in C ++ ausgeführt werden?

Nehmen wir an, wir haben die folgenden Variablen deklariert float a = 1.2291; float b = 3.99; float -Variablen haben die Genauigkeit 6, was (wenn ich das richtig verstehe) bedeutet, dass die Differenz zwischen der Zahl, die der Computer ...

Besteht das Risiko, Float-Variablen als Schleifenzähler und deren Teilinkrementierung / -dekrementierung für Bedingungen zu verwenden, die nicht "==" sind?

Holen Sie sich die nächstkleinere Double-Nummer

Im Rahmen eines Unit-Tests muss ich einige Randbedingungen testen. Eine Methode akzeptiert a

“GL_HALF_FLOAT” mit OpenGL Rendering und GLSL

Ich programmiere einen OpenGL-Renderer in C ++. Ich möchte, dass es so effizient wie möglich ist und jeder Scheitelpunkt / Normal / UV-Tex-Koordinate / Tangente / usw. so wenig Speicher wie möglich belegt. Ich benutze Indizes, Strips und Lüfter. ...